Un análisis de IA generó información incorrecta sobre carga de buque chino

Incidente con herramienta de IA

El incidente ocurrió a comienzos de año, en el contexto de la guerra con Irán, según cuatro fuentes con conocimiento del caso. Militares armados se prepararon para abordar la embarcación, mientras varias aeronaves estadounidenses sobrevolaban la zona.

La operación fue suspendida poco antes de ejecutarse, cuando funcionarios estadounidenses revisaron con mayor detenimiento la información y determinaron que el chatbot utilizado por un analista había identificado de forma incorrecta el material transportado.

Funcionamiento de la herramienta

La herramienta combinó información de fuentes abiertas con inteligencia clasificada almacenada por el Gobierno estadounidense, y concluyó erróneamente que la carga estaba vinculada a un programa de armas nucleares. No se pudo determinar cuál era la carga real del buque ni si la herramienta era un producto comercial o un sistema desarrollado internamente por el Gobierno de Estados Unidos.

Una de las fuentes calificó el informe de "completamente falso" y afirmó que una eventual intervención contra una embarcación china podría haber provocado una escalada entre Washington y Pekín.

Contexto más amplio sobre uso de IA

El caso se conoce en un momento en que aumenta el uso de herramientas de inteligencia artificial por parte del Ejército y los servicios de inteligencia estadounidenses, así como las críticas hacia esta tecnología.

El director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el que pidió frenar el ritmo de desarrollo de la industria ante los crecientes riesgos de seguridad de la IA. Esta posición se suma a declaraciones similares de Sam Altman, director ejecutivo de OpenAI, y del multimillonario Elon Musk.

El presidente estadounidense, Donald Trump, se opone a regular el sector, considerando que ello retrasaría a Estados Unidos en la competencia con China por el liderazgo tecnológico.