Reporte falso de una inteligencia artificial casi provoca una guerra entre Estados Unidos y China
El uso acelerado de la inteligencia artificial en las Fuerzas Armadas de Estados Unidos estuvo a punto de desencadenar una crisis internacional sin precedentes. Un informe de inteligencia, elaborado a partir de un chatbot de IA y distribuido en medio del conflicto con Irán, alertó sobre una embarcación china en Medio Oriente que supuestamente transportaba componentes para un programa de armas nucleares, algo que resultó falso.
La alerta provoco una respuesta inmediata del Ejército estadounidense, que desplegó aviones militares y preparó tropas armadas para abordar e interceptar la nave en el mar. Sin embargo, momentos antes de ejecutar la maniobra, los oficiales revisaron los detalles del documento y descubrieron que los datos presentados eran completamente falsos, producto de una interpretación errónea generada por la una inteligencia artificial utilizada por un analista del Comando de Operaciones Especiales del Pacifico.
El incidente puso en evidencia los vacíos de control en el despliegue de estas herramientas. Según reveló una fuente a CNN, el informe no sólo era "completamente falso", sino que también "casi inicia una guerra". Cualquier choque armado contra un buque chino habría abierto la puerta a una confrontación directa de consecuencias impredecibles entre ambas potencias.
Las fallas de una IA casi ocasiona guerra entre China y Estados Unidos
El error se originó cuando el analista consultó a un chatbot de IA para procesar información de inteligencia sobre la carga de la embarcación. La herramienta combinaba inteligencia de fuentes abiertas con datos confidenciales de señales de inteligencia militar. Sin embargo, la tecnología falló en el procesamiento y creó una explicación errada que más tarde fue convertida, mediante otra función de IA, en un reporte con formato estándar.
Las fuentes consultadas por CNN indicaron que habrían fallos en los criterios y protocolos claros de uso de la IA para verificar los datos que arrojan estas plataformas. Diversas dependencias militares emplean herramientas variadas con distintos niveles de seguridad y confiabilidad.
A pesar de esto, la administración militar insiste en masificar el uso de esta tecnología para acelerar las decisiones en el campo de batalla, gestionar la logística, administrar presupuestos y seleccionar objetivos de ataque. En enero, el secretario de Defensa, Pete Hegseth, presento la Estrategia de Aceleración de la Inteligencia Artificial del Departamento de Defensa para impulsar su adopción masiva.
Comentarios