No hubo brecha, no hubo exploit y no hubo adversario. La cadena de eventos que casi termina en un abordaje armado contra un buque chino en Medio Oriente arrancó con un analista haciéndole una pregunta a un chatbot, y con ese chatbot inventando la respuesta.
Qué pasó
Según una investigación de CNN basada en cuatro fuentes con conocimiento del episodio, un reporte de inteligencia circuló esta primavera por todo el ejército estadounidense con una afirmación explosiva: un barco chino transportaba componentes de un programa de armas nucleares por Medio Oriente.
La maquinaria se movió. Se armó un plan de intercepción, había militares preparándose para abordar el buque y aviones en el aire. Fue justo antes de ejecutar la operación cuando alguien revisó el reporte a fondo y encontró lo que nadie había validado: había sido generado con ayuda de IA, y el chatbot había identificado mal el material que llevaba la nave.
Una de las fuentes lo resumió sin adornos:
El reporte era completamente falso. Pero también casi empezó una guerra.
La mecánica es la parte que debería incomodar a cualquiera que trabaje con datos clasificados. El analista consultó al chatbot sobre reporting de inteligencia del manifiesto del barco, originado en Special Operations Command Pacific. El bot fusionó OSINT con SIGINT secreto de los repositorios del gobierno y llegó a su conclusión. Después el mismo analista usó IA otra vez para empaquetar el hallazgo en el formato de reporte estándar — ese que los mandos militares leen y dan por bueno — y lo diseminó.
Ni SOCOM Pacific ni el Pentágono respondieron a la solicitud de comentario de CNN. Ars Technica replicó y contextualizó el reporte el mismo día.
Por qué importa
La conversación pública sobre riesgo de IA lleva semanas atorada en el escenario de ciencia ficción: el modelo que se libera del control humano y termina con la civilización. Este episodio apunta a algo mucho más aburrido y mucho más probable: humanos tomando decisiones catastróficas con base en output plausible y equivocado.
Y el contexto institucional empuja en la dirección contraria a la prudencia. En enero, el secretario de Defensa Pete Hegseth lanzó su "Artificial Intelligence Acceleration Strategy", con el objetivo explícito de "democratizar la experimentación con IA" poniendo modelos en manos de tres millones de empleados civiles y militares, en todos los niveles de clasificación. El Departamento de Defensa construyó su plataforma GenAI.mil sobre Gemini for Government, sumó Grok for Government el mes pasado, y Anthropic ofrece una versión de Claude para trabajo de inteligencia.
El problema no es la tecnología, es la ausencia de gobernanza. Según los oficiales citados, el esfuerzo está descentralizado: distintas partes del gobierno usan distintas herramientas bajo distintas órdenes y distintos estándares de seguridad. No existe un criterio único para verificar lo que estos sistemas producen. Y el propio reporte señala que esta alucinación no fue un caso aislado dentro de la comunidad de inteligencia.
El detalle técnico que nadie quiere ver
Hay dos fallas encadenadas, y la segunda es peor que la primera.
La primera es la alucinación: un LLM sin contexto suficiente rellena el hueco con lo estadísticamente probable. Eso ya sabíamos que pasa, y hay investigación que sugiere que es imposible eliminarlo por completo. Un "do not hallucinate" en el prompt no es un control.
La segunda es de diseño: el bot cruzó fuentes abiertas con señales clasificadas y produjo una conclusión sin trazabilidad. Cuando después la IA redacta el reporte en el formato canónico, el output pierde toda marca de origen: llega al consumidor con la misma autoridad visual que un análisis humano verificado. Se lavó la procedencia. El lector no tiene manera de saber que ahí dentro hay una inferencia de modelo y no una fuente.
Cualquiera que haya visto un SIEM con enriquecimiento automático reconoce el patrón: el dato derivado se vuelve indistinguible del dato observado, y tres saltos después alguien actúa sobre él.
Qué hacer
Aplica igual en un SOC que en un comando militar:
- Marca el origen, siempre. Todo artefacto con asistencia de IA debe llevar la etiqueta hasta el consumidor final, no solo en el borrador.
- Prohíbe el fusionado sin trazabilidad. Si un sistema cruza fuentes de distinta clasificación o confiabilidad, debe citar cada aserción o no emitir conclusión.
- Human-in-the-loop no es firmar el PDF. Si el humano no puede reproducir la inferencia desde las fuentes, no está validando: está sellando.
- Separa asistencia de autoría. Resumir, traducir y buscar es bajo riesgo. Concluir identidad, atribución o targeting no lo es.
Mi lectura
La parte que se va a citar de esta historia es "casi empezó una guerra". La parte que importa es que el control que falló no fue técnico: fue de proceso. El reporte pasó por toda la cadena porque se veía bien, y la IA es extraordinariamente buena en hacer que las cosas se vean bien.
En México y LATAM la versión de este problema no llega con un portaaviones: llega con el analista de nivel 1 que pega el log en un chatbot, recibe una atribución con nombre de APT, y la mete en el ticket. El escalamiento sube, alguien aísla un segmento productivo, y nadie puede reconstruir de dónde salió el nombre. La diferencia con el caso de SOCOM es de escala, no de naturaleza. La lección es la misma: si la organización no puede auditar la procedencia de una conclusión, no tiene inteligencia — tiene una opinión bien formateada.