David Gross, Nobel de Física: "Si tienes 20 minutos para decidir si lanzar cientos de misiles nucleares, los militares podrían pensar que es más prudente dejar esa decisión a la IA"
El peligro no está solo en que existan miles de armas nucleares, sino en que una crisis de apenas unos minutos pueda terminar siendo gestionada por una IA capaz de cometer errores irreversibles.
Durante décadas, la humanidad ha desarrollado tecnologías capaces de cambiar el mundo, pero algunas de ellas también han creado nuevos riesgos difíciles de controlar.
Las armas nucleares son el ejemplo más evidente, ya que fueron diseñadas como una herramienta de disuasión, pero cualquier error de cálculo puede tener consecuencias irreversibles.
Ahora, con la llegada de la inteligencia artificial a cada vez más ámbitos, algunos científicos advierten que sistemas automatizados puedan acabar participando en decisiones donde el margen de error es prácticamente inexistente.
Uno de ellos es David Gross, premio Nobel de Física, quien ha alertado sobre la posibilidad de que, en una crisis nuclear, la presión por tomar decisiones en pocos minutos lleve a algunos responsables militares a confiar parte del proceso a un modelo de IA.
¿Quién es David Gross y qué significa realmente su advertencia?
David Gross es un físico teórico estadounidense reconocido internacionalmente por sus investigaciones sobre las partículas fundamentales que forman la materia.
En 2004 recibió el Premio Nobel de Física junto a Frank Wilczek y H. David Politzer por sus trabajos sobre la libertad asintótica, un descubrimiento clave para comprender cómo interactúan los quarks dentro de los protones y neutrones.
Aunque su carrera está vinculada principalmente a la física de partículas y a la búsqueda de una teoría capaz de explicar las fuerzas fundamentales del universo, Gross también ha reflexionado sobre los grandes riesgos que pueden afectar al futuro de la humanidad.
Su preocupación no se centra únicamente en la existencia de armas nucleares, sino en cómo las nuevas tecnologías pueden modificar la forma en la que se toman decisiones extremas.
La frase de Gross sobre tener solo 20 minutos para decidir si lanzar cientos de misiles nucleares plantea un escenario de máxima presión. En una situación de alerta, los líderes militares podrían disponer de un tiempo muy limitado para interpretar información, valorar si existe un ataque real y decidir cómo responder.
Según el físico, esa falta de tiempo podría hacer que algunos responsables considerasen que una inteligencia artificial es una herramienta más rápida y eficiente para analizar datos y recomendar una respuesta.
El problema, según su planteamiento, es que una IA puede equivocarse. Estos sistemas son capaces de procesar enormes cantidades de información en segundos, pero no comprenden el mundo como una persona y pueden generar conclusiones erróneas si reciben datos incompletos, ambiguos o incorrectos.
En una tarea cotidiana, un fallo de inteligencia artificial puede solucionarse. En un contexto nuclear, una decisión equivocada podría desencadenar una cadena de acontecimientos imposible de detener.
El riesgo no es solo la IA, sino delegar decisiones irreversibles
Gross no plantea que la inteligencia artificial vaya a lanzar armas por sí sola, sino que advierte de un escenario donde los humanos podrían empezar a delegar decisiones críticas porque una máquina parece más rápida o precisa.
La lógica detrás de esa preocupación es sencilla, ya que cuanto mayor sea la presión y menor el tiempo disponible, más atractivo puede parecer utilizar sistemas automáticos para analizar amenazas y recomendar acciones.
Sin embargo, la velocidad no siempre significa fiabilidad. Una IA puede detectar patrones, comparar información y ayudar en tareas de análisis, pero la decisión final sobre una acción con consecuencias globales plantea un problema ético y político.
El físico también sostiene que estos riesgos no son inevitables, debido a que la existencia de armas nucleares y tecnologías avanzadas no significa que el futuro esté decidido.
Para Gross, reducir la posibilidad de un conflicto requiere mantener canales de comunicación entre países, establecer límites y reforzar los mecanismos que eviten decisiones impulsivas.
Su advertencia sirve como recordatorio de que el avance tecnológico no solo debe medirse por lo que una máquina puede hacer, sino también por las responsabilidades que los humanos están dispuestos a mantener bajo su control.