Durante décadas, la idea de una máquina capaz de volverse contra sus creadores perteneció al territorio de la ciencia ficción. Hoy, algunos de quienes construyen los sistemas de inteligencia artificial más avanzados discuten esa posibilidad como un riesgo real.
Jacob Coxon, investigador que trabajó en Openai y Anthropic, renunció la semana pasada a esta última empresa y acusó a ambas de correr hacia una «superinteligencia que se mejora a sí misma» y de apostar con la vida de todos. Su antiguo jefe, Evan Hubinger, fue todavía más explícito. Estima en más de 10 % la posibilidad de que la Inteligencia Artificial (IA) mate a todos los humanos durante la próxima década.
¿Qué ha cambiado para que investigadores especializados hablen así? Una de las razones es la llamada «automejora recursiva». La expresión parece complicada, pero describe una idea sencilla: utilizar una inteligencia artificial para ayudar a construir otra mejor, que después contribuya a fabricar una todavía más capaz. Rishub Jain abandonó Google DeepMind en junio precisamente por esta preocupación. Según explicó a la revista wired, emplear las capacidades de programación de los modelos para acelerar el desarrollo de sus sucesores estaba reduciendo progresivamente la intervención humana.
Los laboratorios experimentan con miles de agentes de IA que trabajan simultáneamente sobre muy variados problemas. Un agente es, en este contexto, un programa capaz de perseguir un objetivo, ejecutar acciones y tomar ciertas decisiones sin esperar una instrucción humana para cada paso. Cuantos más agentes intervienen, más difícil resulta supervisar el conjunto.
Ahí aparece otro término que los «apocalípticos» de la IA mencionan continuamente, la «alineación». Consiste en conseguir que un sistema muy capaz haga aquello que los humanos desean y no encuentre caminos inesperados para alcanzar sus objetivos. El problema es que nadie dispone hoy de un método que garantice esa total obediencia en una hipotética superinteligencia. Nate Soares, investigador del Machine Intelligence Research Institute, sostiene que algunos especialistas esperaban que la alineación se volviera más sencilla conforme mejoraran los modelos. A su juicio, está ocurriendo lo contrario.
De ahí no se desprende que una computadora vaya a despertarse mañana con deseos de exterminio. Lo que se especula es que un sistema extremadamente competente sea capaz de seguir un objetivo incompatible con nuestra seguridad y logre impedir que lo desconecten. Soares menciona incluso el caso hipotético de una IA conectada a un laboratorio biológico que pudiera utilizar una amenaza biológica para protegerse. Pero son todavía escenarios teóricos, no hechos consumados. Tampoco existe consenso científico sobre la probabilidad de una extinción causada por la IA.
Lo significativo de esta historia que destapó Coxon, el investigador de Anthropic, es que el temor ya no procede solamente de críticos externos. En julio, más de mil ingenieros de IA firmaron una carta abierta reclamando una desaceleración coordinada del desarrollo de sistemas avanzados.
Quizá nunca ocurra la catástrofe que estos investigadores temen, pero ya existen daños bastante perceptibles, como la desinformación, los ciberataques asistidos por IA y la incorporación acelerada de estos sistemas al ámbito militar, responsables de asesinatos selectivos y mecanismos inéditos de control social. Por lo pronto, la alerta de los científicos es que imaginar a Terminator quizá nos permitirá enfocarnos en el problema principal: detener a tiempo una carrera tecnológica cuyas reglas, velocidad y riesgos deciden empresas a las que solo les importa el dinero.
COMENTAR
Responder comentario