¿Acabará la IA con los seres humanos? Expertos matemáticos no lo descartan: "Es muy difícil, aunque no imposible"
Los investigadores analizaron varios escenarios y concluyeron que no se puede descartar del todo que una inteligencia artificial llegue a provocar la extinción humana.
Cuando se plantea la posibilidad de que una IA llegue a exterminar los humanos, lo normal es pensar que se trata de un argumento imposible. Sin embargo, esa idea, por remota que parezca, ya ha comenzado a estudiarse con seriedad por científicos a través de estudios matemáticos.
Investigadores con experiencia en modelos de seguridad, ingeniería de sistemas y evaluación de riesgos llevan tiempo planteándose una cuestión incómoda, pero muy importante, ¿puede la IA acabar con toda la humanidad?
No se trata de imaginar robots asesinos, sino de calcular hasta qué punto esta tecnología, mal diseñada o fuera de control, podría llegar a suponer una amenaza real. Los expertos afirman: "Es muy difícil, aunque no imposible", lo cual se plantea un debate que no se debe ignorar del todo.
Lo primero que hay que tener claro es que los investigadores partieron desde el escepticismo. Es decir, no buscaban demostrar que la IA es peligrosa, sino todo lo contrario: querían ver si realmente era posible descartar que pudiera acabar con la humanidad, incluso en los peores escenarios.
A partir de aquí, intentaron ver si esa hipótesis se sostenía ante una investigación matemática. Para que un escenario se considerase una amenaza real, no bastaba con imaginar una catástrofe, sino que era necesario describir con precisión cómo se podría eliminar a todos los humanos, sin dejar supervivientes.
Y aunque suene poco probable, para analizarlo en serio consideraron factores físicos, biológicos, geográficos y sociales. El estudio, además, no se centró en si la IA quiere hacer daño, porque como ya sabes, estos sistemas no tienen objetivos por sí solos… a menos que sean programados para ello.
La IA podría matar a los humanos, aunque es un escenario poco probable
Tras analizar los escenarios más habituales que suelen mencionarse como amenazas existenciales, los expertos descartaron varios de ellos como posibles vías de extinción total, donde las razones son técnicas, y en cierto modo, tranquilizadoras.
Guerra nuclear: Aunque la IA lograse hacerse con el control de todo el arsenal nuclear del planeta —más de 12.000 ojivas en manos de varios países—, no podría acabar con todos los humanos. La especie está demasiado dispersa geográficamente, y muchas zonas quedarían fuera del alcance inmediato. Además, ni siquiera un invierno nuclear garantizaría una eliminación completa.
Pandemias: Un virus diseñado por IA, con una letalidad muy alta, podría generar estragos. Pero incluso una enfermedad que matase al 99,99 % de la población mundial dejaría a cientos de miles de personas vivas, y muchas de ellas sabrían cómo aislarse. La IA tendría que asegurarse de que ningún humano quedase fuera del alcance de la infección, lo cual es extremadamente difícil de lograr.
Cambio climático: Acelerar el calentamiento global no bastaría para acabar con todos los humanos. Existen regiones polares y entornos extremos donde la vida podría adaptarse. Para que la Tierra resultase totalmente inhabitable, la IA necesitaría liberar gases industriales muy específicos y potentes a una escala enorme. Y aunque eso es técnicamente posible, requeriría una logística muy compleja.
"No hay suficientes bombas, virus o gases para garantizar por sí solos la desaparición total de la humanidad", concluyen los expertos. Aunque todos esos escenarios parecen inviables, algunas combinaciones de factores podrían acercarse peligrosamente a un resultado extremo. Los investigadores identificaron cuatro condiciones clave que una IA debería cumplir para provocar una extinción real:
- Tener el objetivo claro de eliminar a la humanidad. Ya sea porque se le ha asignado mal ese objetivo, o porque ha desarrollado una estrategia errónea para alcanzarlo.
- Controlar los sistemas físicos necesarios. Hablamos de armamento, redes de fabricación, acceso a infraestructuras críticas o capacidad para manipular el entorno a gran escala.
- Persuadir o manipular a personas. La IA necesitaría actuar con discreción, utilizando a los humanos como aliados para ejecutar parte del plan.
- Sobrevivir sin ayuda humana. Porque, tras el colapso de la civilización, aún harían falta recursos, mantenimiento y decisiones autónomas para completar la tarea.
Si una IA llegara a reunir estas cuatro capacidades —aunque fuera por accidente o por una programación intencionada—, el escenario de extinción total dejaría de ser solo una fantasía de ciencia ficción para convertirse en una realidad.
Lo cierto es que el riesgo existe y lo que recomiendan los expertos es invertir más en investigación sobre seguridad de la IA y en mecanismos de control antes de que los sistemas sean demasiado complejos como para entender cómo funcionan internamente.
"El mayor riesgo no es que la inteligencia artificial quiera destruirnos, sino que se diseñe mal, se use sin control o se confíe ciegamente en sus decisiones sin entender sus consecuencias". En otras palabras, no es la IA la que nos pone en peligro, sino quienes la programan.