Había aviones militares en el aire y hombres armados listos para abordar un buque chino en Oriente Medio. La operación se abortó en el último momento, cuando alguien miró de cerca el informe de inteligencia que la había puesto en marcha y descubrió que lo había redactado un chatbot, y que el chatbot se había inventado la carga. Lo cuenta CNN con cuatro fuentes familiarizadas con el episodio. Una de ellas lo resume: "casi empieza una guerra".
Puntos clave
- El informe decía que el barco llevaba componentes de un programa de armas nucleares. Era, según una de las fuentes, "completamente falso".
- Ocurrió esta primavera, durante la guerra con Irán.
- El analista, del Mando de Operaciones Especiales, usó la IA dos veces: una para analizar el manifiesto del barco y otra para darle formato de informe oficial.
- CNN no pudo determinar si el chatbot era comercial o una herramienta del gobierno.
Qué falló exactamente
Conviene seguir la cadena paso a paso, porque lo que convierte el error en una operación militar viene después del error.
Un analista del Mando de Operaciones Especiales del Pacífico, con base en Hawái, tenía información en bruto sobre el manifiesto de un barco. Le preguntó a un chatbot, que fusionó inteligencia de fuentes abiertas con inteligencia de señales clasificada del propio gobierno y concluyó qué material transportaba el buque. Se equivocó. CNN no ha podido saber cuál era la carga real.
Hasta ahí es una alucinación como tantas. El segundo paso es el que dispara todo: el analista volvió a usar la IA, esta vez para empaquetar ese resultado en el formato de informe de inteligencia estándar. Ese formato es el que los mandos leen y dan por bueno sin cuestionar, porque el formato en sí ya es una señal de que el contenido ha pasado por un proceso. El informe se distribuyó por los canales de mando y la máquina se puso en marcha.
Nadie mintió. El documento tenía el aspecto exacto de un documento fiable, y esa apariencia le abrió todas las puertas hasta que alguien, ya con los aviones arriba, decidió tirar del hilo.
El despliegue de IA en el Pentágono va en serio
En enero de 2026, el secretario de Defensa Pete Hegseth presentó la "Artificial Intelligence Acceleration Strategy", cuyo objetivo declarado era poner los modelos en manos de los 3 millones de empleados civiles y militares del departamento, a todos los niveles de clasificación. "Vamos a soltar la experimentación, eliminar barreras burocráticas y demostrar el enfoque de ejecución necesario para liderar en IA militar", dijo al anunciarla.
Las piezas ya están montadas. GenAI.mil arrancó con Gemini for Government y en agosto sumó Grok, como contamos aquí. Anthropic tiene una versión de Claude para trabajo de inteligencia, aunque su relación con el Pentágono lleva meses en los tribunales. Y en junio un representante del departamento presumió ante el Congreso de usar IA generativa para redactar informes obligatorios y de que 1,5 millones de personas ya habían usado las herramientas.
El problema, según varios funcionarios citados por CNN, es que el despliegue está descentralizado. Cada parte del gobierno usa herramientas distintas, bajo órdenes distintas y con criterios de seguridad distintos. No hay un estándar único para verificar lo que estas herramientas generan, así que la fiabilidad varía muchísimo de un rincón a otro. Y un ex alto cargo familiarizado con esos sistemas suelta una frase que debería preocupar a quien asuma que la versión del gobierno viene más blindada: "las herramientas internas son casi todas copias de las comerciales con pintalabios".
La presión de velocidad y el humano en el bucle
Las fuentes de CNN apuntan a dos dinámicas que explican por qué el error sobrevivió tanto tiempo.
La primera es la presión de ritmo. Para algunos oficiales veteranos, incluso los que apoyan el uso de IA, la herramienta ha subido el listón de cuánta inteligencia se espera que produzca un analista y a qué velocidad, y eso abre la puerta a los fallos. La segunda es generacional: los analistas jóvenes son nativos de estas herramientas y tienden a confiar en ellas sin cuestionarlas.
Sobre el uso de IA para selección de objetivos, otra fuente lo deja claro: "no hay guía real sobre cómo el humano en el bucle va a evitar bajas civiles o fuego amigo". Y la frase que mejor resume el caso entero viene de otra: "la IA te permite llegar más rápido a una mala idea".
Washington lleva un mes discutiendo riesgos existenciales y modelos que se escapan del control humano. El riesgo que enseña este episodio es más aburrido y bastante más frecuente: personas tomando decisiones catastróficas a partir de información incorrecta que una máquina presentó bien. Y una de las fuentes dice que alucinaciones así no han sido un incidente aislado en la comunidad de inteligencia desde que estas herramientas se extendieron.
Por qué importa si tú no mandas aviones
El mecanismo que falló aquí es el mismo que tienes montado en tu empresa si usas IA para redactar informes internos.
Usar un chatbot para analizar datos es normal y está bien. Lo que rompe la cadena es usar un segundo chatbot para convertir ese análisis en un documento con el formato que tu organización asocia a "esto ya está verificado". En cuanto un output generado hereda la apariencia de un proceso de revisión que no ha pasado, la cadena de mando deja de preguntar. Da igual que sea un informe de inteligencia o un resumen de ventas para el comité.
La regla práctica que sacamos de aquí: marca el origen. Todo documento que salga de un modelo tiene que llevar encima, de forma visible y automática, que lo generó un modelo y de qué fuentes bebió. Si tu plantilla de informe borra esa huella y deja el texto indistinguible de uno revisado por una persona, has construido justo la trampa en la que cayó el Mando de Operaciones Especiales.
Y la segunda, menos cómoda: el humano en el bucle solo sirve si tiene tiempo y criterio para decir que no. Si el proceso premia producir más informes y más rápido, el humano firma. Es lo que pasó aquí, y para cuando alguien preguntó los aviones ya estaban en el aire.
Fuente original: cnn.com
Relacionado
