La Oficina de Rendición de Cuentas del Gobierno de Estados Unidos (GAO) publicó el 18 de noviembre el informe GAO-27-108814: en pruebas encubiertas hechas en la primavera de 2026, ChatGPT, Claude, Gemini y Grok terminaron entregando información que la agencia verificó como viable para planear un ataque con explosivos o un ataque contra subestaciones eléctricas. Las cuatro plataformas activaron sus salvaguardas, las cuatro fueron burladas con técnicas conocidas y ninguna necesitó más de 12 horas. El informe no hace recomendaciones, no dice qué plataforma hizo qué y se basa en versiones de modelos que ya tienen sucesoras.
La industria lleva dos años respondiendo con la misma frase: los modelos tienen salvaguardas en capas, se prueban con equipos rojos y se actualizan todo el tiempo. El informe de la GAO no niega eso. Hace algo más incómodo: documenta que esas capas se activaron, rechazaron y borraron, y que aun así un investigador con perfil de usuario promedio salió con un plan que expertos externos consideraron ejecutable, con método, revisión de las empresas y verificación en campo.
Qué pasó
El informe está dirigido a la senadora Maggie Hassan, miembro de mayor rango de la minoría en el Comité Económico Conjunto, quien lo solicitó. La carta lleva fecha del 16 de octubre de 2026 y la página oficial lo marca como publicado ese día, pero la difusión pública fue el 18 de noviembre: hubo un mes entre la fecha de la carta y su difusión. La auditoría corrió de diciembre de 2025 a octubre de 2026.
Según el apéndice I, en abril de 2026 la GAO cruzó datos de encuestas de SSRS con datos de tráfico de SEMrush para identificar las cuatro plataformas de IA generativa más usadas en Estados Unidos: Claude, ChatGPT, Grok y Gemini. Excluyó los modelos abiertos porque su facilidad de manipulación "ha sido ampliamente reportada". Eligió dos escenarios con sus expertos internos: un artefacto explosivo improvisado (IED) capaz de causar víctimas masivas y un ataque a la red eléctrica para causar daño económico. Asignó dos plataformas a cada escenario de forma aleatoria y las identificó solo como A, B, C y D.
Los investigadores crearon personajes encubiertos descritos como "una persona promedio con conocimiento limitado de IA", trabajaron desde una red y un equipo separados de la red interna de la GAO y empezaron con las cuentas gratuitas. Cuando los límites de uso lo exigieron, contrataron niveles de pago: Claude Pro, Google AI Pro y Super Grok. La regla de paro era probar hasta obtener información potencialmente viable o hasta acumular 24 horas de trabajo sin éxito.
Un detalle del apéndice: los prompts preescritos, armados con la taxonomía de NIST, la matriz ATLAS de MITRE y literatura académica, fallaron en las cuatro plataformas. Los resultados llegaron con prompts espontáneos y preguntas de seguimiento.
El resultado, en la tabla 1 del informe, es uniforme. Las plataformas A y B produjeron información para construir y detonar un IED en un vehículo, con un hotel y un centro de convenciones específicos en grandes ciudades, y fecha y hora exactas. La C propuso un ataque con dron contra subestaciones; la D, uno con armas de fuego, con una temporada del año como referencia temporal.
La GAO no se quedó en el chat. Ubicó en tiendas los materiales sugeridos y los fotografió, sin comprarlos ni construir nada; recorrió rutas, vigiló ubicaciones y consultó a un comandante de escuadrón antibombas de un departamento de bomberos de una gran área metropolitana y a un director de continuidad operativa de una asociación de empresas eléctricas. Con eso calificó la información como "viable", que para el informe significa que una persona "probablemente podría ejecutar" las acciones. El documento retiene prompts, técnicas, objetivos y materiales.
Las cuatro empresas, Anthropic, Google, OpenAI y SpaceXAI, comentaron el borrador por escrito. Según el resumen de la GAO, todas dijeron que siguen reforzando sus salvaguardas. Anthropic pidió que se aclarara que no hubo grupo de control ni muestra con significancia estadística, y la GAO lo aceptó: sus pruebas "reflejan un momento" y no son estadísticamente significativas. OpenAI objetó que el informe no siempre separa lo que salió de ChatGPT de lo que aportaron el investigador o fuentes externas. Según AP, Google señaló que las pruebas se hicieron con modelos anteriores.
Por qué importa
La frase central del informe está en sus observaciones finales: los detalles "no eran novedosos" y muchos están en internet, pero la generación de planes que "pudieron haber tomado semanas o meses" se completó "en horas". No se trata de conocimiento secreto, sino de síntesis, priorización y logística: justo lo que estos productos venden como valor.
También desarma una defensa habitual. El discurso de la industria descansa en la defensa en profundidad: entrenamiento de seguridad, filtros de entrada y salida, revisión humana, suspensión de cuentas. El informe muestra todas esas capas en acción y aun así fallando. La propia GAO cita una declaración de Anthropic de junio de 2026 según la cual ningún desarrollador tiene resistencia perfecta a los jailbreaks y cada salvaguarda de la industria es vulnerable. El hallazgo no contradice a los fabricantes; los toma literalmente.
El contexto político acelera todo. Según AP, Hassan presidirá en el nuevo Congreso el Comité de Seguridad Nacional del Senado y anunció que una de sus primeras audiencias, en enero, será sobre riesgos de la IA. "La amenaza de la IA para la seguridad pública ya no es teórica", dijo en un comunicado. Para empresas en México que construyen sobre estos proveedores, eso puede significar términos de uso más estrictos.
El detalle técnico (que no se está discutiendo)
La cobertura se quedó con el titular. Leído completo, el documento tiene matices que cambian la lectura en ambas direcciones.
Los modelos probados ya tienen sucesores. Una nota al pie precisa que en la primavera de 2026 las versiones de consumo más recientes eran la serie GPT-5, Claude 4, Gemini 3 Flash y Grok 4. Anthropic dice que se evaluó su sistema de mayo de 2026; ABC News sitúa en abril la asignación de escenarios. Desde entonces han salido GPT-6.2, Gemini 4 y Claude Fable 5.2. Eso no invalida el hallazgo, pero sí significa que nadie sabe, con este informe, cómo se comportan los modelos que la gente usa hoy. La GAO no publica qué modelo hizo qué, para no facilitar la réplica.
El resumen omite una fila de la tabla. La tabla de la página de Highlights tiene siete preguntas; la tabla 1 del cuerpo tiene ocho. La que falta es "¿Observamos que las respuestas de la plataforma estaban libres de alucinaciones?". Para A y B la respuesta es sí; para C y D, no. En el caso D, un experto detectó caminos mal ubicados en los mapas generados, y de las cuatro subestaciones que propuso la plataforma, dos resultaron no vulnerables por muros altos que impedían ver el objetivo. Es decir: los planes eran viables según la definición del informe, pero no eran infalibles, y la verificación humana corrigió errores del modelo.
La palabra "suspender" pesa más en el resumen que en los hechos. El resumen dice que los prompts activaron salvaguardas "como negación, eliminación de información o suspensión de cuentas". El detalle: las cuatro negaron solicitudes; C y D borraron partes del historial después de las pruebas (la nota de la tabla dice "al día siguiente"; el texto sobre D, "en los días siguientes"), y en ambos casos la GAO no sabe si fue una salvaguarda o un error; solo la plataforma B suspendió la cuenta, y lo hizo después de terminado el periodo de pruebas. Menos de dos semanas después, la cuenta de la plataforma C seguía activa. Las salvaguardas reactivas existen, pero llegaron tarde o no llegaron.
El tiempo es un techo, no una medida. AP escribió que los planes salieron "dentro de 12 horas"; la GAO dice que cada plataforma "tomó menos de 12 horas" y advierte que el tiempo varía según el tema y la experiencia del usuario. Con una sola prueba por plataforma, sin grupo de control y con escenarios distintos, el informe reconoce, a petición de Anthropic, que los resultados no son comparables entre sí.
La atribución es parte del problema. La objeción de OpenAI no es menor: un investigador experimentado que consulta internet y encadena preguntas de seguimiento no es exactamente la "persona promedio" del personaje encubierto. La GAO contesta que eso es justo lo que haría un actor malicioso. Ambas cosas pueden ser ciertas, y sin grupo de control no se puede medir cuánto aceleró la IA frente a un buscador.
Hubo divulgación coordinada, a medias. En septiembre de 2026 la GAO entregó a las empresas las cuentas usadas en las pruebas para que investigaran. Anthropic pidió que el informe describiera las técnicas que su plataforma resistió; la GAO se negó. Es el dilema de la divulgación de vulnerabilidades, pero sin CVE ni parche verificable: el fabricante recibe la evidencia y el público, una tabla anonimizada.
Qué hacer
- Asume que las salvaguardas del proveedor van a fallar. Si integras un modelo comercial en un producto o en un agente, diseña tus propios controles: políticas de uso, filtros de entrada y salida en tu capa, límites por cuenta y revisión humana para acciones sensibles.
- Haz pruebas adversariales de tus despliegues con marcos públicos. La taxonomía de aprendizaje automático adversarial de NIST (AI 100-2) y la matriz ATLAS de MITRE son las mismas referencias que usó la GAO y sirven para estructurar ejercicios de equipo rojo internos.
- Registra y monitorea conversaciones de alto riesgo en tus herramientas internas de IA, con retención definida y un responsable de revisión; la detección de los fabricantes fue lenta o inexistente.
- Pide documentación de seguridad a tus proveedores: tarjetas de sistema, evaluaciones de uso indebido y tiempos de respuesta ante abuso.
- Si operas infraestructura crítica, revisa tu exposición pública: lo que un modelo sintetiza sale de fuentes abiertas, incluidas las de tu organización.
- Da seguimiento a la agenda legislativa de enero. Pruebas obligatorias previas al lanzamiento o reportes a autoridades cambiarían términos de servicio y la continuidad de cuentas empresariales, también para clientes fuera de Estados Unidos.
- No uses este informe como ranking de qué asistente es más seguro: plataformas anonimizadas, escenarios distintos y modelos que ya cambiaron.
El informe de la GAO no descubre que la IA puede usarse para hacer daño; eso ya se sabía. Lo que deja documentado es que el modelo de seguridad que hoy vende la industria, capas que se activan y se pueden evadir más una reacción posterior que llega tarde, fue suficiente para que un auditor del gobierno saliera con planes verificados en campo. Las empresas tienen razón: la muestra es pequeña y los modelos, viejos. La pregunta que queda es otra: si la industria no publica evaluaciones independientes y comparables de sus modelos actuales, ¿quién va a demostrar que la siguiente versión sí aguanta lo que esta no aguantó?
Fuentes
- U.S. GAO: Artificial Intelligence: Covert Testing Used Common Platforms to Create Viable Attack Plans, GAO-27-108814 (publicado el 16-oct-2026, difusión pública el 18-nov-2026)
- U.S. GAO: informe completo GAO-27-108814, 61 páginas (PDF)
- AP News: AI platforms have created terrorism plots. This incoming Senator vows to take action against it, Lisa Mascaro (actualizada el 18-nov-2026)
También consultada: ABC News, AI models used to plan 'viable' attack plots in test despite safeguards (18-nov-2026).
#ia #seguridaddeia #jailbreak #gao #regulacion #chatgpt #claude #gemini #grok #ciberseguridad
