¿Acabará la IA con la humanidad? Escenarios que podrían ocurrir si la inteligencia artificial se descontrola
Existen numerosos riesgos asociados al desarrollo de la inteligencia artificial, con escenarios totalmente reales que podrían llevar al fin de la humanidad. Como han alertado varias organizaciones e investigaciones, las catástrofes pueden llevar a un desastre nuclear, al perfeccionamiento de la guerra bioquímica o al descontrol moral de la IA.
Utopía y distopía han sido siempre conceptos antagónicos y enfrentados que reúnen, a uno y otro lado, a quienes promulgan la sociedad ideal como el futuro deseable y a otros que avisan sobre los eventos catastróficos que podrían marcar el futuro de la humanidad.
En tal caso, el desarrollo de la inteligencia artificial está a mitad de camino entre estos términos, con investigadores que aseguran incluso que existe un 99,9% de que esta acabe con el ser humano, en algunos casos con una fecha de caducidad para nuestra especie.
Para Eliezer Yudkoswky, profesor e investigador del Instituto de Inteligencia Artificial de la Universidad de Berkeley (Estados Unidos), "tenemos pocas posibilidades de que la humanidad sobreviva".
Una afirmación categórica que hace saltar las alarmas, también con voces críticas con los avances últimos de la IA que, sin control alguno, pueden desatar escenarios futuribles catastróficos, desde un control automatizado con máquinas hasta el desempleo masivo y, posteriormente, la pobreza absoluta.
A pesar de que la IA tiene numerosas ventajas para las sociedades, desde la predicción de desastres naturales hasta su integración en procesos productivos, también presenta desafíos reales que formarían parte de los libros más distópicos de la ciencia ficción.
Estos son los peores escenarios a los que se podría enfrentar el ser humano si la inteligencia artificial pierde absolutamente el control.
La desinformación masiva
En una de las encuestas más recientes de la Fundación Española para la Ciencia y la Tecnología (FECYT), titulada Las representaciones sociales de la inteligencia artificial en España, queda más que clara la preocupación sobre el uso de la IA para campañas masivas de desinformación.
Así lo expresa esta investigación: "Se interpreta que la IA contribuye al contexto actual de desinformación en la medida en que es capaz de dotar de un mayor grado de veracidad a los contenidos fake o fraudulentos".
De esta forma, uno de los grandes peligros que conlleva el aumento de capacidades de la IA es su expresión lógica para el público general, ya que se tiende a interpretar como un razonamiento más sofisticado que el del pensamiento humano.
En tal caso, muchos expertos críticos y escépticos aseguran que la IA puede considerarse como "una posible fuente de desinformación y adoctrinamiento", un elemento que podría llevar a la caída de los sistemas democráticos o al aprovechamiento de esta por ciertos grupos sociales con poder.
A ello se suma la accesibilidad preocupante y masiva a la generación de imágenes mediante esta, lo cual ha dado lugar a la desconfianza generalizada de ciertos vídeos y supuestas fotografías de personalidades célebres o deepfake, un peligro más que real y que ya se encuentra encima de la mesa a día de hoy.
Priorización del beneficio sobre los riesgos
Otra de las grandes preocupaciones expresadas en el mismo estudio de FECYT versa alrededor del concepto de gobernanza y la necesidad de la regulación gubernamental, algo que no se da necesariamente en todas las regiones del mundo.
En este sentido, el mercado se define como un actor intangible que es incapaz de regular el uso de la IA, lo que puede suponer la priorización del beneficio económico sobre los riesgos contrastados ya en múltiples investigaciones.
"No obstante, aunque la posición mayoritaria interpreta el mercado como una institución en que prima la lógica del beneficio, sí está presente de manera minoritaria un discurso liberal que sitúa la regulación solo en casos delictivos y criminales", añade el informe.
Así, la posición más favorable sería una regulación internacional para la protección de los derechos humanos fundamentales y la creación de un marco moral, como ocurre en otros temas consensuados en la legislación mundial.
La llegada de un invierno nuclear
Tal y como expresa el Center for AI Safety en su investigación sobre los potenciales riesgos de la inteligencia artificial, es más que evidente que el ser humano ha corrido grandes riesgos en docenas de ocasiones en lo que tiene que ver con desastres nucleares.
Como ejemplo, cuenta uno de los eventos que pudo dar lugar a la mayor catástrofe: la crisis de los misiles de Cuba. En 1962, un submarino soviético cercano a la Cuba de Fidel Castro, se convirtió en el centro de atención a nivel mundial.
Este submarino fue atacado por la fuerza militar estadounidense y el capitán de la embarcación creyó que había comenzado la guerra. Así, dio la orden de lanzar un torpedo nuclear. Por fortuna, el comandante Vasily Arkhipov se negó a acatar la decisión, salvando a la humanidad del peor futuro.
Pero, ¿qué ocurriría si dicha elección quedara en manos de una IA autómata que tomara decisiones por sí misma? ¿Y si esta IA considera como la opción más racional el inicio de una guerra nuclear? Como puedes ver, el desastre sería mayúsculo y sin posibilidad de intervención humana.
Un desastre biológico
En su documento Frontier AI, Meta también establece varios riesgos que podrían darse si la IA pierde el control. Cabe destacar que estos son tenidos en cuenta en el desarrollo de Llama, su modelo LLM detrás de varios servicios, con un claro enfoque en el código abierto.
De esta forma, Meta enumera hasta 3 resultados, según la complejidad de "razonamiento" de la que sea capaz la IA, con 5 escenarios muy arriesgados, que supondrían la utilización de armas bioquímicas para extender enfermedades mejoradas e imparables.
Para el Center for AI Safety, también supone un riesgo a tener en cuenta, ya que este tipo de guerra sucia ha sido aprovechada por el ser humano a lo largo de la historia, no solo por sistemas dictatoriales, sino también por países como Reino Unido y Estados Unidos.
Aquí cabe resaltar que, tras su utilización durante la Primera Guerra Mundial –con efectos devastadores–, se alcanzó un acuerdo para no usarlas; más adelante, en 1972, la Convención para la prohibición de las Armas Bacteriológicas y las Toxínicas (CABT), reafirmó esta prohibición.
No obstante, este organismo expresa su preocupación por el abaratamiento de la síntesis genética, capaz de crear nuevos agentes biológicos que podrían suponer una catástrofe pandémica para toda la humanidad.
Una situación más que plausible, ya que un grupo de investigadores consiguió que la IA usara un sistema de investigación médica para producir 40.000 agentes de guerra química, según publicaron en la revista Nature.
La debacle en ciberseguridad
Meta también sitúa la ciberseguridad como uno de los grandes temas a debatir, con escenarios de riesgo que podrían dar lugar a la automatización de ciberataques, algo que es perfectamente posible a día de hoy.
Ante el abaratamiento de los modelos, incluso con la llegada de modelos open source, es una realidad a evitar, sobre todo si se quiere evitar la desconfianza generalizada de la población hacia la seguridad en diferentes organizaciones, tanto públicas como privadas.
Uno de los peores escenarios posibles, para Meta, sería el perfeccionamiento y automatización del denominado pig butchering –estafa de matanza de cerdos, según su traducción al español–, un fraude en inversión que guía al usuario para realizar aportaciones crecientes.
En última estancia, el estafador acaba desapareciendo y el inversor pierde todo su dinero. Se conoce como estafa de matanza de cerdos ya que se centra en engordar la cantidad recibida antes de que el estafador decide sacrificar a la víctima.