ÓRGANO OFICIAL DEL COMITÉ CENTRAL DEL PARTIDO COMUNISTA DE CUBA

En una sala de Naciones Unidas en Ginebra se está discutiendo algo que hasta hace pocos años parecía materia de ciencia ficción: si una máquina puede participar en la decisión de matar a una persona y qué límites deben imponerse antes de que esa posibilidad se normalice.

Las negociaciones sobre armas autónomas constituyen el esfuerzo internacional más avanzado para regular el empleo militar de la inteligencia artificial (IA) y podrían desembocar en un tratado jurídicamente vinculante.

Las llamadas armas autónomas son sistemas capaces de realizar determinadas funciones militares sin intervención humana inmediata.

Según The Washington Post, las negociaciones de septiembre avanzaron hacia reglas que exigían sistemas «predecibles» y «fiables» y revisión humana de los objetivos seleccionados mediante IA. Pero varios países, comenzando por Estados Unidos, consiguieron eliminar esas disposiciones.

Como las conversaciones requieren consenso, las grandes potencias tienen considerable capacidad de bloqueo.

La trascendencia del debate supera la discusión técnica. Se está negociando dónde termina la automatización y dónde debe permanecer una responsabilidad humana imposible de delegar. La IA militar, además, ya abandonó el laboratorio. No es difícil encontrar hoy evidencias de su utilización para identificar objetivos humanos en conflictos recientes, como el genocidio que comete Israel en Palestina.

Mark Coeckelbergh, filósofo de la Universidad de Viena e integrante del panel de 40 expertos convocado por Naciones Unidas para asesorar sobre IA, propone desplazar la atención del relato apocalíptico según el cual las máquinas terminarán dominando a la humanidad.

En una entrevista con elDiario.es sostiene que ese discurso puede funcionar también como estrategia de poder. Las empresas presentan sus modelos como tecnologías extraordinariamente poderosas y peligrosas y, al mismo tiempo, se posicionan como actores privilegiados para controlar sus riesgos e influir en su regulación.

Por eso la negociación sobre armas autónomas en la ONU es significativa y por primera vez traslada el problema a escala internacional.

Para el Sur global, esto tiene particular importancia. Si las normas internacionales se construyen alrededor de las prioridades de quienes poseen las tecnologías, otros países pueden quedar sometidos a riesgos que no decidieron y a estándares que apenas ayudaron a redactar.

Los tratados sobre otras armas muestran, según Richard Lennane, asesor del Comité Internacional de la Cruz Roja, citado por el Post, que las normas internacionales pueden influir en el comportamiento de los Estados.

El debate de Naciones Unidas plantea así una cuestión mucho mayor que el futuro de una tecnología. Define quién tendrá autoridad para establecer sus límites y qué intereses pesarán cuando esos límites afecten la vida humana.

Es vieja la tentación de atribuir voluntad y poder propio a aquello que no comprendemos. Pero aquí el poder no lo tienen las máquinas, sino los seres humanos que las diseñan, controlan y deciden para qué utilizarlas.

La IA no llega por sí sola a la guerra, la economía o la comunicación. Recuperar la capacidad colectiva de decisión es convertir un problema presentado como inevitablemente tecnológico en lo que verdaderamente es: una disputa sobre poder, responsabilidad y destino compartido.

COMENTAR
  • Mostrar respeto a los criterios en sus comentarios.

  • No ofender, ni usar frases vulgares y/o palabras obscenas.

  • Nos reservaremos el derecho de moderar aquellos comentarios que no cumplan con las reglas de uso.