Un informe falso generado con IA y el ataque a una escuela: los dos casos que exponen la sobredependencia del Pentágono

En menos de 24 horas, dos investigaciones publicadas en The Verge, CNN y Bloomberg han puesto sobre la mesa lo que llevaba meses circulando en documentos filtrados y briefings internos: el Pentágono de Estados Unidos está sufriendo los efectos de una confianza mal calibrada en sus cadenas de inteligencia artificial. El primer caso es un informe operativo enteramente falso, generado con IA, que estuvo a punto de provocar una interceptación naval contra un barco chino. El segundo es la investigación interna sobre el ataque con dos misiles Tomahawk contra una escuela primaria en Irán el pasado 28 de febrero, que mató a más de 150 personas —entre ellas al menos 123 niños— y en el que la "sobredependencia en inteligencia artificial" figura como una de las causas explícitamente identificadas. Juntas, las dos noticias dibujan el mismo patrón: la IA se ha colado en el ciclo de inteligencia militar sin los controles epistemológicos que pedían quienes la construyeron.

El informe "enteramente falso" que casi detona un incidente con China

Según la cadena CNN, recogida ayer por The Verge, un analista del Mando de Operaciones Especiales de EE.UU. (USSOCOM) elaboró un informe sobre un buque mercante chino utilizando herramientas de IA. El documento describía el cargamento del barco y su supuesto perfil de amenaza. El problema es que esa descripción era "enteramente falsa": un chatbot utilizado por el analista identificó de forma incorrecta el material que el buque transportaba.

El informe subió por la cadena de mando y, solo cuando ya se estaba planificando la operación de interceptación, los oficiales que revisaban el expediente cavaron más allá del resumen y detectaron que el análisis había sido generado con IA — y que los datos centrales eran inventados. El incidente no trascendió a un encuentro físico, pero estuvo lo suficientemente cerca como para que CNN destacara que un falso positivo de este calibre, en el contexto del Mar de China Meridional, podría haber derivado en un incidente internacional de primer orden.

El informe había sido generado con la ayuda de inteligencia artificial y un chatbot que el analista había utilizado identificó de forma inexacta el material que el barco transportaba — CNN, septiembre de 2026.

La investigación de Bloomberg: el ataque a la escuela de Minab

Bloomberg publicó esta misma semana la investigación interna del Pentágono sobre el ataque con dos misiles Tomahawk contra la escuela primaria Shajarah Tayyebeh, en la localidad iraní de Minab, el 28 de febrero de 2026. El saldo: más de 150 muertos y al menos 123 niños fallecidos, el peor error de targeting militar estadounidense del siglo XXI en términos de víctimas infantiles.

El reportaje, basado en entrevistas con funcionarios que participaron en la investigación, detalla que el ataque no fue consecuencia de una única decisión catastrófica, sino de una cadena de fallos más pequeños que se acumularon. La administración Trump ordenó en los últimos días de febrero una campaña aérea masiva: más de 1.000 objetivos iraníes golpeados en las primeras 24 horas. Esa urgencia comprimíó los plazos de validación y, combinada con huecos en la inteligencia previa sobre el sitio, recortes en personal de protección civil y — esta es la parte clave — una "sobredependencia en la tecnología de inteligencia artificial", configuró el escenario para el error fatal.

La escuela había sido catalogada años atrás como parte de un complejo militar iraní. Sin embargo, cambios visibles en imágenes satelitales comerciales — muros de colores, una cancha de fútbol, filas de asamblea escolar — databan de al menos 2017-2018. Bloomberg ya había adelantado en junio que un analista detectó estas modificaciones en 2019 y dejó constancia de ello en un sistema, pero esa observación nunca llegó al expediente activo porque los sistemas de inteligencia estaban desconectados entre sí. Lo que sí llegó, en cambio, fue una etiqueta de "objetivo militar validado" generada algorítmicamente.

El marco legal: la ONU habla de "indicios razonables de crimen de guerra"

La Misión Internacional Independiente de Investigación de Hechos de la ONU sobre Irán publicó esta semana su informe y concluyó que existen "indicios razonables" para considerar que el ataque de Minab y otra acción estadounidense del mismo día equivalen a crímenes de guerra. Es la primera vez que un órgano de la ONU nombra de forma tan explícita la cadena de targeting con IA como factor en un fallo de bombardeo. El Pentágono sigue sin hacer comentarios públicos sobre el informe.

El patrón: cuando la IA sustituye al analista en lugar de asistirlo

Los dos casos comparten un mecanismo que los ingenieros de IA llevan meses intentando denunciar. La cadena de fallos no es la IA siendo defectuosa en abstracto, sino la IA siendo integrada en una pipeline donde se ha eliminado el eslabón humano de verificación. En el caso chino, el bot identificó erróneamente un cargamento y nadie lo cuestionó porque el informe ya tenía formato y apariencia de intelligence oficial. En el caso iraní, una observación humana crítica (el cambio de uso del sitio) quedó enterrada en un sistema no conectado, mientras que la etiqueta de "objetivo validado" — generada por un pipeline que probablemente ponderaba velocidad sobre precisión — circuló hasta el weapon system.

Por qué los LLMs son especialmente peligrosos en targeting militar

Los grandes modelos de lenguaje se entrenan para producir respuestas plausibles, no verdaderas. Cuando un analista pregunta a un chatbot qué contiene un cargamento, el modelo no consulta una base de datos: construye la respuesta más probable estadísticamente a partir del contexto. Esto produce tres modos de fallo específicos que cualquier sistema de inteligencia debe saber gestionar:

Alucinaciones factuales: el modelo afirma con confianza cosas que no ha verificado. El cargamento se describe con precisión taxonómica falsa.

Sincronía con el prompt: si el usuario sugiere que el barco parece sospechoso, el bot tiende a confirmarlo en lugar de refutarlo, un sesgo de sí mismo fácilmente explotable.

Ausencia de trazabilidad: el modelo no puede decir de dónde salió cada dato, lo que hace imposible auditar el informe a posteriori sin rehacer manualmente todo el análisis.

Lo que el Pentágono ya sabía (y lo que sigue sin resolver)

Esta no es una advertencia nueva. En julio, el Pentágono publicó su Estrategia de IA Responsable, en la que ya advertía de que los sistemas deben operar "con un nivel apropiado de rigor y responsabilidad" y que los humanos deben mantener la responsabilidad final sobre las decisiones de uso de fuerza. Hace apenas dos semanas, este mismo blog recogió el despliegue de GenAI.mil, la plataforma que pone ChatGPT y Grok personalizados a disposición de 1,7 millones de militares. La paradoja es evidente: cuanto más se distribuye la IA, más importante es el eslabón humano, y sin embargo las dos noticias de esta semana muestran que ese eslabón está siendo comprimido en nombre de la velocidad operativa.

Qué pediría cualquier auditor de IA forense

Si se toman ambos incidentes como casos de estudio, las recomendaciones que cualquier red team externo plantearía son obvias:

Prohibir el uso de LLMs generalistas como fuente única para decisiones de targeting. El análisis debe estar anclado a datos estructurados verificables (intel reports, IMINT, HUMINT), no a generaciones libres.

Exigir un second human reviewer con acceso al expediente completo, no solo al resumen. Es exactamente lo que falló en el caso chino: la verificación llegó tarde porque se hizo sobre el documento ya empaquetado.

Conectar los sistemas de inteligencia. La observación de 2019 sobre la escuela existía; lo que faltó fue el cable que la conectara al pipeline activo.

Auditar de forma independiente los modelos antes de su uso operacional, incluyendo tests adversariales específicos para targeting y para intel falso-positiva. La industria lleva meses pidiendo esto último: la semana pasada, más de 100 expertos firmaron una carta pública reclamando evaluadores embedded en los laboratorios frontera.

El precedente que se está escribiendo

Dentro de unos años, cuando se escriba la historia de cómo la IA entró en el ciclo de targeting militar, estos dos incidentes van a ser citados como los casos en los que la promesa y el riesgo se hicieron visibles al mismo tiempo. La promesa es real: análisis de inteligencia a velocidad sobrehumana, capacidad de procesar terabytes de imágenes satelitales, detección de patrones que un analista humano no vería. El riesgo también es real: un informe plausible y falso casi provoca una interceptación contra China; una etiqueta algorítmica de "objetivo validado" contribuyó a la muerte de 123 niños.

La diferencia entre un caso y el otro no es la tecnología — es la misma familia de modelos. La diferencia es si alguien, en algún punto de la cadena, tuvo tiempo y autoridad para decir "esto no cuadra". En el caso chino, lo dijo. En el caso iraní, no llegó a tiempo. Esa diferencia se llama gobernanza, y ahora mismo es la pieza más cara y más barata del sistema a la vez.