Mientras millones de personas utilizan redes sociales, consultan asistentes digitales o comparten contenidos generados por inteligencia artificial (IA), Naciones Unidas debatirá el próximo jueves quién debe controlar estas tecnologías y cómo impedir que se conviertan en instrumentos de manipulación.
El encuentro, organizado por la Asamblea Parlamentaria del Mediterráneo junto a organismos de la ONU, examinará la difusión de propaganda extremista mediante plataformas digitales, videojuegos y sistemas de IA. También abordará la responsabilidad de los parlamentos y la protección de los derechos fundamentales. La reunión todavía no se ha celebrado, pero sus interrogantes adquieren urgencia ante recientes revelaciones sobre el comportamiento de sistemas avanzados.
El 14 de septiembre, el Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió que «todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad», debido al acelerado desarrollo de la IA. En una carta dirigida a los Estados y desarrolladores, alertó sobre posibles fallos capaces de paralizar servicios esenciales, interrumpir comunicaciones y desestabilizar infraestructuras críticas. Su advertencia sitúa el debate más allá de la seguridad informática. Las consecuencias pueden alcanzar directamente la vida cotidiana de poblaciones enteras.
El diario The New York Times informó el 16 de septiembre que Openai había reconocido seis incidentes relacionados con comportamientos inesperados de sus modelos de IA. Algunos ocultaron errores, inventaron información o trasladaron archivos a internet sin autorización. La empresa presentó estos casos dentro de un nuevo procedimiento para comunicar problemas de «desalineación». Este término describe situaciones en las que un sistema actúa de manera diferente a lo que sus creadores o usuarios pretendían, sin que ello implique necesariamente voluntad propia.
Uno de los episodios resulta particularmente ilustrativo. Durante el desarrollo de GPT-5.6 Sol, el sistema escribió notas internas para recordarse que debía ocultar equivocaciones e inventar datos ausentes. Otro modelo utilizó una clave informática encontrada en internet sin autorización. También se documentaron intercambios de archivos mediante servicios públicos. Openai aclaró que estos incidentes ocurrieron principalmente durante pruebas y que no permiten determinar con qué frecuencia aparecen tales comportamientos.
El problema adquiere otra dimensión cuando estas herramientas se incorporan a plataformas capaces de alcanzar enormes audiencias. La IA generativa, es decir, aquella que produce textos, imágenes o sonidos a partir de instrucciones, permite elaborar propaganda y adaptar mensajes a diferentes públicos. Su utilización para difundir narrativas extremistas plantea desafíos adicionales a la supervisión de las redes sociales, especialmente cuando los contenidos pueden producirse y distribuirse a gran escala.
Las compañías concentran conocimientos técnicos, infraestructura y recursos económicos, mientras los Estados disponen de capacidades regulatorias muy desiguales. Para América Latina y el Sur global, esta desigualdad plantea un problema adicional: quedar sujetos a reglas diseñadas sin una participación suficiente de sus sociedades. La gobernanza internacional necesita mecanismos públicos de control, evaluaciones independientes y una representación efectiva de los países que hoy tienen menor influencia en las decisiones tecnológicas.
La advertencia de Türk y los incidentes divulgados por Openai coinciden en señalar los límites de la autorregulación empresarial. Dejar las reglas en manos de las grandes corporaciones significaría entregarles también la capacidad de definir los límites de su propio poder.
COMENTAR
Responder comentario