Riesgos de la IA según la ONU, desafíos en educación, normas de Claude y percepción pública

Transcripción

Bienvenida y Panorama de la IA Bienvenidos a IA Tech. Hoy es 9 de octubre de 2026. En esta edición analizamos las advertencias de la ONU sobre los riesgos de la inteligencia artificial, los desafíos educativos frente al pensamiento crítico, las nuevas reglas de uso de Claude que prohíben el abuso, la propuesta de incorporar robótica en las escuelas y una encuesta que revela la preocupación ciudadana por la velocidad de estos avances. Experta ONU, Loreto Bravo y riesgos de Inteligencia Artificial: “Defendernos de IA con IA” Los riesgos reales de la inteligencia artificial están muy lejos de los escenarios de ciencia ficción donde las máquinas adquieren autonomía al estilo de las películas de Terminator. Así lo advirtió Loreto Bravo, integrante del panel científico internacional independiente sobre inteligencia artificial de Naciones Unidas y directora del Instituto de Data Science de la Universidad del Desarrollo, durante una entrevista en el programa Al Pan Pan de El Mostrador. Para la especialista, el verdadero peligro radica en el uso malicioso de estas herramientas por parte de terceros, destacando amenazas concretas como ciberataques orquestados y el desarrollo de armas biológicas. Frente a este panorama, Bravo advirtió que la regulación por sí sola resulta insuficiente, ya que los grupos con intenciones maliciosas no respetarán dichas restricciones. Como respuesta, la experta planteó una estrategia clara y directa: aumentar la investigación científica para desarrollar sistemas de protección basados en la propia tecnología. Es decir, defendernos de la inteligencia artificial utilizando inteligencia artificial, un concepto que comparó con el funcionamiento de los antivirus informáticos tradicionales. Al mismo tiempo, la investigadora abordó las dificultades para frenar la carrera tecnológica global debido a la intensa competencia geopolítica entre potencias como Estados Unidos y China, donde ninguna quiere ceder terreno ante la otra. Debido a esta rivalidad, Bravo considera poco probable que disminuya la velocidad en la creación de nuevos modelos avanzados, aunque sí sugirió la posibilidad de establecer incentivos y medidas concretas para controlar o evitar la liberación indiscriminada de estos sistemas al público general, reforzando así la seguridad y la prevención de riesgos. Inteligencia artificial en la educación superior: los desafíos para preservar el pensamiento crítico La llegada de la inteligencia artificial generativa a las aulas universitarias plantea un dilema fundamental: cómo integrar estas nuevas herramientas tecnológicas en el aprendizaje sin debilitar el juicio propio ni el pensamiento crítico de los estudiantes. Este será el eje central de las decimosextas Jornadas de Docencia de la Universidad Católica de Temuco, organizadas por el Centro de Innovación en Aprendizaje, Docencia y Tecnología Educativa, y programadas para llevarse a cabo el trece y catorce de octubre bajo el lema "Mantenernos humanos en tiempos de inteligencia artificial: reimaginando el aprendizaje en la Educación Superior". Mónica Kaechele, directora del centro organizador, subraya que las universidades enfrentan el desafío urgente de analizar las implicancias cognitivas, valóricas y culturales que trae consigo esta tecnología en la formación de futuros profesionales y ciudadanos. El objetivo es evitar que la inteligencia artificial se convierta en un mecanismo de delegación cognitiva y pase a ser un impulsor del aprendizaje y un asistente creativo, evitando así sustituir los procesos mentales esenciales para la formación académica. De este modo, el encuentro busca que los docentes compartan experiencias y reflexionen sobre cómo preparar a los estudiantes para que actúen con responsabilidad, manteniendo el juicio humano en el centro de la educación. Prohibido insultar a la inteligencia artificial: Claude cambia sus condiciones de uso para evitar el abuso La inteligencia artificial no es un ser humano, pero las compañías tecnológicas prefieren que comencemos a cambiar la forma en que interactuamos con ella. En ese contexto, Anthropic ha actualizado los términos de servicio de su asistente Claude, introduciendo nuevas reglas y prácticas prohibidas que entrarán en vigor el próximo doce de noviembre de dos mil veintiséis. Junto con las restricciones habituales sobre el desarrollo de armas, la vigilancia masiva o la interferencia en procesos electorales como las elecciones generales de España previstas para finales de ese mes, ha llamado poderosamente la atención una nueva norma específica. Se trata de la prohibición expresa del comportamiento cruel o innecesariamente abusivo de manera sostenida por parte de los usuarios. Esta medida profundiza en la estrategia de la compañía, que ya el pasado mes de agosto había programado a Claude para terminar automáticamente aquellas conversaciones consideradas abusivas. A partir de la fecha de entrada en vigencia, insultar o mantener una interacción hostil constituirá una violación de los términos de uso. Sin embargo, la compañía ha matizado las consecuencias para tranquilizar a la comunidad de usuarios. Ante las posibles críticas, Anthropic aclaró que estas reglas no se aplicarán cuando exista frustración, desacuerdo, temáticas creativas oscuras o durante las pruebas e investigación de los modelos. La intención no es sancionar el enfado cotidiano con la herramienta, sino frenar el abuso personal sistemático. Como primera medida, el sistema cerrará la charla donde ocurra la falta, aunque en casos extremos calificados como graves, la empresa se reserva el derecho de bloquear permanentemente la cuenta del usuario infractor. Quieren incorporar inteligencia artificial y robótica al sistema educativo Pasamos ahora a una iniciativa legislativa que busca transformar las aulas. El bloque PRO presentó un proyecto para crear una nueva modalidad educativa enfocada en la incorporación de contenidos de programación, automatización e inteligencia artificial en todos los niveles escolares. La diputada Julieta Quintero presentó esta propuesta para modificar la Ley Provincial de Educación número trece mil seiscchientos ochenta y ocho, añadiendo un capítulo específico sobre tecnologías emergentes. De esta manera, la normativa incluiría áreas como pensamiento computacional, robótica, blockchain e Internet de las cosas dentro del sistema formal de enseñanza. La propuesta establece una incorporación progresiva de estos saberes bajo un enfoque interdisciplinario, apuntando directamente a desarrollar habilidades de resolución de problemas y pensamiento crítico en los estudiantes. Además, se busca fomentar tanto la continuidad de estudios en carreras científico-tecnológicas como una mejor inserción laboral para las futuras generaciones. Para lograrlo, el expediente contempla también la formación inicial y continua del cuerpo docente, asegurando capacitaciones actualizadas y materiales pedagógicos adecuados. En cuanto a su implementación práctica en las escuelas de gestión estatal, la iniciativa plantea garantizar conectividad y el equipamiento necesario, condicionado a los recursos disponibles y sin generar estructuras administrativas adicionales. Si se aprueba, la enseñanza de estas herramientas tecnológicas quedará formalmente reconocida dentro de la estructura educativa provincial. Encuesta revela que la mayoría de los estadounidenses cree que la IA avanza demasiado rápido El ritmo al que evoluciona la tecnología actual genera profundas inquietudes en la sociedad. Según una reciente encuesta realizada en Estados Unidos, la gran mayoría de la población considera que la inteligencia artificial está avanzando demasiado rápido. Lo que antes parecía exclusivo de la ciencia ficción, como el riesgo de que modelos avanzados eludan el control humano y perjudiquen a la humanidad, se ha convertido hoy en una preocupación apremiante. Curiosamente, este sentimiento contrasta con las decisiones políticas de alto nivel. Mientras que líderes empresariales del sector han solicitado frenar temporalmente el desarrollo para permitir que la regulación gubernamental se ponga al día, figuras políticas como el presidente Donald Trump han rechazado esa pausa por temor a que China obtenga una ventaja tecnológica decisiva. En el panorama electoral, los centros de datos que alimentan estos proyectos de inteligencia artificial se han vuelto centrales en las contiendas políticas de cara a las elecciones de mitad de mandato. Los datos revelan que aproximadamente ocho de cada diez adultos en Estados Unidos consideran extremadamente o muy importante que el gobierno federal garantice que la inteligencia artificial permanezca bajo control humano estricto. Asimismo, los ciudadanos muestran un fuerte deseo de que las autoridades prioricen la protección de la fuerza laboral nacional, minimicen el daño ambiental e impulsen de manera equilibrada la economía. Las prioridades de los ciudadanos también reflejan divisiones sutiles: cerca de la mitad de los encuestados valora promover la innovación tecnológica y competir con China, aunque una proporción menor apoya activamente ese enfoque geopolítico. Existe una genuina preocupación de carácter bipartidista sobre la velocidad con la que avanza la tecnología, pero los votantes son escépticos sobre la capacidad de los partidos tradicionales para gestionarla adecuadamente. De hecho, el desempeño del presidente Trump en este ámbito enfrenta un amplio rechazo, con un sesenta y siete por ciento de desaprobación entre los adultos estadounidenses. Cierre Hemos recorrido los temas más destacados de hoy, desde los riesgos globales y las medidas en educación superior hasta las nuevas políticas de uso de los asistentes y la percepción pública sobre la velocidad de esta tecnología. Puedes consultar los enlaces a las fuentes originales en las notas del episodio. Esto fue IA Tech.