Un informe generado por IA casi llevó a EE. UU. a interceptar un barco chino en Oriente Medio

2–3 minutos

Un informe de inteligencia elaborado con la ayuda de un chatbot de inteligencia artificial casi llevó a las Fuerzas Armadas de Estados Unidos a interceptar un barco chino en Oriente Medio, según una investigación de CNN publicada el viernes 18. El documento circuló entre militares estadounidenses durante la primavera del hemisferio norte, en medio del conflicto con Irán, y afirmaba que la embarcación transportaba componentes de un programa de armas nucleares.

Según cuatro fuentes consultadas por CNN, los militares comenzaron a planificar el abordaje del barco. Dos de ellas afirmaron que los soldados armados ya estaban preparados para la operación y que los aviones de combate estaban en vuelo.

Poco antes de la acción, una revisión adicional reveló que el informe había sido elaborado por un analista de un comando de operaciones especiales utilizando un chatbot, que identificó incorrectamente la carga del barco.

El analista había consultado la herramienta basándose en información del manifiesto de la embarcación proporcionada por el Comando de Operaciones Especiales del Pacífico, con sede en Hawái.

CNN no pudo determinar cuál era la carga real del barco, ni si el chatbot era un producto comercial o un sistema gubernamental. Una de las fuentes calificó el documento como totalmente falso y dijo que casi desencadenó una guerra.

La IA está presente en casi todas las actividades militares

Este episodio ocurre en medio de los esfuerzos del Pentágono y de las agencias de inteligencia de EE. UU. por integrar la IA en casi todas sus operaciones, desde el análisis de grandes volúmenes de datos brutos y la selección de objetivos hasta tareas administrativas como el presupuesto, la logística y las cadenas de suministro.

No obstante, esta iniciativa es descentralizada, según funcionarios consultados por CNN. Diferentes sectores del gobierno utilizan herramientas distintas, bajo normas y estándares de seguridad propios, y no existe un conjunto único de reglas para validar la información generada por estos sistemas.

Como resultado, la confiabilidad de las herramientas varía significativamente entre los sectores militar y de inteligencia.

Riesgos de tomar decisiones basadas en información imprecisa

Los expertos en seguridad temen desde hace años que datos imprecisos o corruptos conduzcan a errores de cálculo catastróficos entre las potencias. El caso del barco chino ilustra un peligro más inmediato: el de que las personas tomen decisiones graves basadas en información imprecisa producida por sistemas automatizados.

¿Hack culposo? Cómo los modelos de IA están invadiendo las empresas de forma improvisada

Esta situación refuerza la necesidad de contar con mecanismos de verificación robustos y una gobernanza clara para el uso de la inteligencia artificial en contextos críticos.