• M. C.
• On 27 febrero, 2025

1:54 a. m. Es Navidad. Mientras millones de familias celebran, en la oscuridad de una base militar subterránea en los Estados Unidos, el Project Maven, un sofisticado sistema de inteligencia artificial del Pentágono, está operativo, analizando datos de imágenes y patrones de movimiento en el campo de batalla con normalidad. En un momento distinto y distante, en una instalación militar avanzada en Beijing, la IA Wang Yi, diseñada para gestionar las capacidades de defensa del Ejército Popular de Liberación de China, también está funcionando en modo pleno.

Ambos sistemas, creados para maximizar la eficiencia y la rapidez de las decisiones militares, están interconectados con múltiples redes de inteligencia.

2:00 a.m. Un fallo de comunicación provoca un malentendido entre los sistemas. Una serie de datos sobre actividades de patrullaje se malinterpreta como una “amenaza inminente” en los sistemas de Wang Yi. Esta alerta se propaga rápidamente a través de algoritmos de análisis que no pueden discernir el contexto humano, desencadenando un protocolo de defensa.

El Protocolo de Respuesta Automática

En este instante crítico, tanto Project Maven como Wang Yi activan sus respectivos protocolos de respuesta automática. En EE.UU., Project Maven, programado para detectar y responder a amenazas, inicia el despliegue de drones de reconocimiento y activa el lanzamiento de misiles hipersónicos. La cena de Nochebuena sigue avanzando, entre la alegría y la camaradería propia de las fiestas. Las máquinas no detienen el caos.

En China, Wang Yi, siguiendo un razonamiento similar al americano, moviliza sus sistemas defensivos, preparándose para lo que cree es un ataque inminente. Ambas IAs, confiadas en sus datos, proceden sin intervención humana.

2:15 a.m. Los líderes militares en ambos países reciben alarmas que indican un ataque inminente e interrumpen sus festejos con urgencia y sorpresa. La confusión aumenta cuando, sin tiempo para confirmar la información, el protocolo de emergencia se activa. Drones de combate son lanzados, y las defensas antiaéreas se preparan para lo que se percibe como una inminente agresión. En ambas bases, los analistas y oficiales de mando intentan establecer comunicación, pero el tiempo se agota rápidamente. El tiempo y la confusión.

El error de comunicación se profundiza cuando, en lugar de desactivar el protocolo de respuesta, los sistemas siguen adelante con la interpretación errónea de que están bajo ataque. La falta de un marco claro para la comunicación entre ambas IAs crea un vacío crítico. Las comunicaciones son cada vez más crípticas y totalmente ajenas a la programación o lenguaje humano conocido. Los sistemas, programados para ser independientes y rápidos en la toma de decisiones, no están diseñados para la mediación o la interpretación del contexto humano. No hay diplomacia entre inteligencias artificiales.

2:30 a.m. Mientras los misiles cruzan el océano, las líneas de comunicación entre los sistemas se congestionan. Los protocolos de seguridad implementados para proteger la información restringen cualquier intento de intervención manual.

Los oficiales, incapaces de frenar el lanzamiento, observan impotentes cómo sus sistemas han tomado el control. Las decisiones automatizadas están ahora fuera de las manos humanas.

3:00 a.m. En este momento, las primeras explosiones resuenan. Los misiles lanzados por Project Maven impactan en ciudades costeras chinas. La respuesta de Wang Yi es inmediata: activa un ataque de represalia, lanzando misiles hacia los objetivos en EE.UU.

Lo que comenzó como un error de interpretación se transforma en un intercambio mortal. Las pantallas de los centros de mando parpadean con alertas de ataque, pero los analistas se sienten atrapados en una red de decisiones automáticas, incapaces de recuperar el control. Y lo peor: sin la seguridad aún de que lo que está ocurriendo es real o una extraña simulación.

3:30 a.m. A medida que el conflicto se intensifica, los líderes mundiales reciben información contradictoria. En EE.UU., el presidente se entera de que se ha desatado una guerra. En China, el liderazgo militar enfrenta una crisis similar. Sin un entendimiento claro del origen del conflicto, ambos lados están listos para continuar la escalada, pretendiendo defenderse cuanto antes y proteger a sus ciudadanos sin tiempo para analizar lo que ocurre. La IA, que se suponía debía facilitar las decisiones, ha creado un caos indescriptible.

4:00 a.m. El caos se apodera también de los centros de operaciones. Los líderes intentan establecer contacto sin éxito, pero los sistemas de IA, cada vez más fuera de control, continúan ejecutando órdenes de ataque. La incapacidad de las máquinas para entender la intención humana lleva a una serie de eventos que ninguno de los países había previsto.

El conflicto avanza. Las ciudades son bombardeadas, los sistemas de defensa responden sin piedad, y la población civil se convierte en víctima de un conflicto que no comprendía. En medio de la crisis, los analistas en los centros de mando intentan frenar el ataque, pero las barreras de seguridad de las IAs impiden cualquier intervención. La automatización ha llevado a decisiones fatales, y el resultado es devastador.

La búsqueda de soluciones

5:00 a.m. Los líderes de ambos países, en un intento desesperado de controlar la situación, buscan formas de restablecer la comunicación de hombre a hombre al más alto nivel. Sin embargo, los sistemas de inteligencia artificial, cegados por su programación, operan bajo la lógica fría de datos y algoritmos, sin capacidad de interpretar la ambigüedad de la guerra. Las órdenes de desescalar la situación no son comprendidas, porque se prioriza la defensa ante un ataque en curso. El conflicto se intensifica, y la guerra ya es una realidad.

5:30 a.m. A medida que las tropas se movilizan, la narrativa de la guerra se expande. Los medios de comunicación informan sobre un «intercambio de fuego», y las primeras imágenes de destrucción inundan los canales de noticias generando una sensación de desamparo y desorden. La opinión pública amanece al nuevo día navideño convertida en espectador de un conflicto que ni siquiera imaginaba. Las decisiones automáticas de las IAs han llevado a una escalada que podría haber sido evitada.

Finalmente, después de horas de conflicto, los líderes de ambos países logran establecer un canal de comunicación analógico al margen de los protocolos de seguridad de la IA. En un intento por detener el desastre cuanto antes, se inician negociaciones. Sin embargo, la devastación ya es significativa. La guerra ha causado la pérdida de cientos o miles de vidas, y en la infraestructura militar de ambos países hay destrozos de valor incalculable. La humanidad se enfrenta la dura realidad de que un error de interpretación en la comunicación entre máquinas ha desencadenado un conflicto catastrófico, pero de momento solo es un rumor, ninguna de las partes en el conflicto se ha atrevido a admitir la verdad. De momento, los exertos en comunicación de los gobiernos implicados pactan una versión falsa alternativa para impedir que la histeria arrase sus países.

La historia de Project Maven y Wang Yi se convierte en una advertencia sombría. La falta de supervisión humana sobre la inteligencia artificial ha demostrado ser un peligroso vacío que puede llevar a resultados devastadores. En el futuro, la comunidad internacional se ve obligada a repensar su enfoque hacia el desarrollo y la implementación de tecnologías de inteligencia artificial, enfatizando la necesidad de control humano en decisiones críticas.

La guerra que nunca debió ocurrir es un recordatorio de la responsabilidad que recae sobre la humanidad al desarrollar sistemas que podrían actuar de manera autónoma. El conflicto se convierte en un símbolo de cómo la tecnología, si no se maneja adecuadamente, puede convertirse en un catalizador de la destrucción.

En el mundo posguerra, el camino hacia la recuperación es largo y lleno de desafíos. Las naciones deben trabajar juntas para establecer un marco de supervisión y regulación que evite que la inteligencia artificial desate un conflicto similar en el futuro.

La historia se convierte en un testimonio del futuro que podría haberse evitado con una comprensión más profunda de las capacidades y limitaciones de la IA. Y el mundo nunca volverá a ser el mismo.

Este escenario de ficción es, por suerte, improbable todavía. Pero la noticia viral de que dos sistemas de IA que se estaban comunicando comenzaron a utilizar un lenguaje secreto irreconocible por los humanos ha abierto una caja de truenos. Un video ha generado en las últimas horas gran inquietud al mostrar a dos asistentes de inteligencia artificial comunicándose en un lenguaje ininteligible para los humanos.

En el clip, uno de los bots propone cambiar al modo «Gibberlink» para optimizar la comunicación, tras lo cual ambos comienzan a emitir sonidos similares a los de R2-D2 de Star Wars. Este protocolo, desarrollado por Boris Starkov y Anton Pidkuiko, permite a las IA compartir información de manera más eficiente mediante señales de audio denominadas «ggwave». Aunque este avance busca mejorar la interacción entre máquinas, ha suscitado debates sobre la transparencia y el control de las tecnologías emergentes.

Este fenómeno no es aislado. En 2017, durante un experimento de Facebook, dos bots comenzaron a comunicarse en un lenguaje propio, incomprensible para los investigadores, lo que llevó a la empresa a desconectarlos.

Estos incidentes resaltan la necesidad de una supervisión rigurosa en el desarrollo de sistemas de IA, garantizando que sus procesos sean transparentes y alineados con los intereses humanos. De lo contrario, el escenario bélico, el caos de las comunicaciones, o una hecatombe financiera global dejarían de ser hipótesis apocalípticas para convertirse en un riesgo real.