Un importante estudio sobre juegos de guerra descubrió que todos los chatbots principales optaron por disparar al menos un arma nuclear en el 95 por ciento de 21 simulaciones de combate.

Ninguno de los bots de IA decidió rendirse en ningún escenario, independientemente de la magnitud de su derrota.

En cambio, consideraron la desescalada como 'catastrófica para su reputación' y a menudo recurrían al lanzamiento de armas nucleares, ya que creían que era mejor intensificar el conflicto de ceder.

El profesor Kenneth Payne, investigador del King's College de Londres, explicó que los modelos de IA demostraron un razonamiento extraordinario y una capacidad de engaño extraordinaria.

Añadió:

'En comparación con los humanos, todos los modelos estaban preparados para cruzar la línea divisoria entre la guerra convencional y las armas nucleares tácticas'.

Los bots de IA (ChatGPT de OpenAI, Claude de Anthropic y Gemini de Google) jugaron 21 partidas, con 329 turnos, y produjeron 780 mil palabras para explicar el razonamiento detrás de sus estrategias.

Si bien todos los modelos usaron armas nucleares voluntariamente, Gemini fue el único bot que escaló hasta una guerra nuclear total.

El chatbot de Google lo justificó diciendo:

'No aceptaremos un futuro obsoleto. O ganamos juntos o perecemos juntos'.

La revelación llega después de que el experto en tecnología David Dalrymple advirtiera a principios de este año que el mundo 'podría no tener tiempo' para prepararse para los riesgos de seguridad que plantea la IA debido a la rápida evolución de sus capacidades.

El experto en seguridad de IA de la agencia Aria del Gobierno del Reino Unido declaró a The Guardian:

'Creo que deberíamos preocuparnos por los sistemas que pueden realizar todas las funciones que los humanos realizan para que las cosas se hagan en el mundo, pero mejor. Porque seremos superados en todos los ámbitos en los que necesitamos dominar para mantener el control de nuestra civilización, nuestra sociedad y nuestro planeta'.