Los aviones militares ya surcaban el cielo. Tropas armadas aguardaban la orden para abordar un buque. Todo indicaba que Estados Unidos estaba a punto de interceptar por la fuerza una nave china en Medio Oriente, convencido de que llevaba componentes para un programa de armamento nuclear. Sin embargo, la operación se detuvo a minutos de ejecutarse, cuando alguien decidió verificar de dónde provenía realmente esa información.
La explicación fue vergonzosa: el informe que activó toda la maquinaria castrense se armó con ayuda de un chatbot de inteligencia artificial (IA) —un software entrenado para contestar en lenguaje natural, similar a ChatGPT, Gemini o Claude— y la herramienta se equivocó al identificar la carga del barco.
El episodio, revelado por una investigación de CNN publicada este 18 de septiembre y confirmado también por el sitio especializado Digital Trends, ocurrió esta primavera boreal en medio de la guerra entre Estados Unidos e Irán. Según cuatro fuentes consultadas por el medio estadounidense, el reporte circuló por distintos niveles del mando militar y desató una reacción casi inmediata.
“El informe era completamente falso, según una de las fuentes. Pero además ‘casi desató una guerra’, afirmó la misma persona”, consignó CNN, citando a alguien con conocimiento directo de lo sucedido. Cualquier acción de Estados Unidos contra un barco chino podía escalar en un enfrentamiento armado entre ambas potencias.
Cómo un chatbot acabó escribiendo un informe militar
Todo partió cuando un analista del Comando de Operaciones Especiales del Pacífico de Estados Unidos, con base en Hawái, preguntó a un chatbot por inteligencia vinculada al manifiesto de carga del buque chino. No quedó claro si se trataba de una herramienta comercial —como ChatGPT o Claude— o de un sistema desarrollado internamente por el gobierno estadounidense.
El sistema combinó fuentes abiertas disponibles en internet con inteligencia de señales clasificada —comunicaciones interceptadas y datos reservados en manos del gobierno— y, a partir de esa mezcla, llegó a una conclusión equivocada sobre la verdadera carga del buque. CNN no pudo determinar qué material llevaba en realidad la nave.
Lo más inquietante es que el analista no se detuvo ahí: volvió a usar la misma IA para convertir ese hallazgo erróneo en un informe de inteligencia formal, del tipo que los mandos militares asumen confiable, y lo distribuyó por la cadena de mando.
Un ex alto funcionario estadounidense conocedor de estos sistemas fue especialmente severo al describir las herramientas que utiliza el ejército: “las herramientas internas son en su mayoría solo copias de las cosas comerciales disfrazadas», dijo a CNN.
Otra fuente condensó el problema de fondo en una línea: “la IA te permite llegar a una mala idea más rápido”.
Una carrera por adoptar IA sin normas definidas ni un protocolo común
El telón de fondo de este error no es casual. Estados Unidos está empujando con fuerza para incorporar inteligencia artificial en prácticamente todas las áreas de su estructura militar y de inteligencia: desde procesar enormes volúmenes de datos sin depurar hasta la selección de objetivos, además de tareas más rutinarias como logística y presupuestos.
En enero, el secretario de Defensa, Pete Hegseth, presentó una estrategia oficial para acelerar la adopción de IA en las fuerzas armadas. Al anunciarla, sostuvo que liberarían la experimentación, eliminarían trabas burocráticas, focalizarían inversiones y demostrarían la capacidad de ejecución necesaria para asegurar el liderazgo en IA militar.
El plan pretende poner estas herramientas en manos de cerca de tres millones de funcionarios civiles y militares del Departamento de Defensa, de acuerdo con un memo citado por CNN. El inconveniente es que ese despliegue es totalmente descentralizado: distintas áreas del gobierno emplean soluciones diferentes, con instrucciones y estándares de seguridad que no son uniformes.
No existe, según reconocieron varios funcionarios estadounidenses, un conjunto único de estándares para validar la información generada por estas herramientas antes de usarla en decisiones reales. Y una fuente advirtió que no fue un episodio aislado: este tipo de “alucinación” —cuando una IA inventa o distorsiona datos con absoluta seguridad— ya se ha repetido dentro de la comunidad de inteligencia.
El peligro se vuelve mayor en la selección de objetivos militares. De acuerdo con otra fuente consultada por CNN, el uso de IA en esa área está creciendo y no hay una guía clara de cómo la intervención humana en el proceso evitará víctimas civiles o fuego amigo.
Un dato aparte: mientras Washington discute desde hace semanas los riesgos de que la IA pueda “desatarse” del control humano con consecuencias catastróficas —la clase de advertencias habituales entre ingenieros y directivos de Silicon Valley—, este caso exhibe un peligro mucho más concreto y presente: personas tomando decisiones desastrosas a partir de información equivocada generada por una máquina.
Expertos en seguridad de Estados Unidos y China, que abordaron el tema en el Foro de Xiangshan, un encuentro de seguridad regional en China, propusieron establecer salvaguardas específicas para sistemas nucleares, operaciones cibernéticas críticas y, sobre todo, mantener un control humano real sobre las decisiones más sensibles.
Porque si algo deja claro este casi-choque es que la prisa puede ser la peor consejera cuando lo que está en juego es un buque, un misil o una guerra: la IA puede procesar inteligencia en segundos, pero cuando falla, lo hace con la misma seguridad con la que acierta, y esa vez nadie iba a preguntarle al chatbot si estaba seguro antes de dar la orden de disparar.
¿Cómo elaboramos esta nota?
Este artículo fue preparado con la inteligencia artificial de Claude (Anthropic). El periodista realizó la investigación preliminar, seleccionó las fuentes y se las entregó a Claude para su redacción, tomando como referencia el estilo del autor. Luego, el periodista revisó el texto, hizo ediciones y verificó las fuentes.
