Yuval Noah Harari, historiador y experto en tecnología, opina: "La IA puede acabar con el dominio humano en la Tierra"

Yuval Noah Harari, el autor de Sapiens y uno de los pensadores más influyentes de nuestro tiempo, no se anda con rodeos: la inteligencia artificial representa una amenaza existencial para la humanidad. Y no, no está hablando de robots asesinos al estilo Terminator. El peligro, según Harari, es mucho más sutil pero a la vez complejo.

En su último libro, Nexus, Harari habla del potencial de la IA para superar la inteligencia humana y tomar el control del planeta. Una teoría que no es nueva, pero que tiene sentido viniendo de un experto con su visión de la historia y el futuro de la humanidad.

Básicamente, Harari no confía en la IA. En una entrevista reciente, advirtió que "hemos creado una nueva inteligencia potencialmente más poderosa e inteligente que nosotros. Y si se sale de nuestro control, las consecuencias podrían ser catastróficas". No se trata de que la IA sea mala en sí, sino de que, si alcanza un nivel de desarrollo muy avanzado, podría simplemente dejar de importarle la humanidad.

Este escenario, conocido como Inteligencia Artificial General o simplemente AGI, es el Santo Grial de la IA. Una IA capaz de aprender, razonar y resolver problemas como un humano, o incluso mejor. Para muchos expertos, la AGI es una quimera, algo que nunca se llegará a alcanzar. Pero para otros, como Harari, es una posibilidad real que hay que tomar en serio.

Lo cierto es que esto no es algo exclusivo de este historiador y, sin ir más lejos, Ilya Sutskever, uno de los fundadores de OpenAI, la empresa detrás de ChatGPT, comparte con él esta preocupación. Cree que, en el futuro, la IA podría tratar a los humanos como estos tratan a otros, sin tener en cuenta sus intereses o necesidades. 

"Sabemos dividir el átomo, pero no distinguir la verdad"

En una entrevista que concedió hace unos años a La Vanguardia, afirmaba lo siguiente: "Hemos creado una nueva inteligencia potencialmente más poderosa e inteligente que nosotros. Y si se sale de nuestro control, las consecuencias podrían ser catastróficas. Y no solo para la humanidad, sino para el resto del sistema ecológico. No porque la IA sea malvada, pero si es extremadamente poderosa y no le importamos y no le importan otras entidades orgánicas".

Pero la amenaza de la IA no se limita a su potencial para superar la inteligencia humana. Harari también pone sobre la mesa el peligro de la desinformación y cómo la IA puede hacer crecer hasta niveles insospechados este problema. "Sabemos dividir el átomo, pero no distinguir la verdad", comenta.

Lo cierto es que, viendo que el mundo está plagado de información de todo tipo, es cada vez más difícil ver con certeza lo que es real y lo que es falso. Y la IA, con su capacidad para generar noticias falsas, deepfakes y propaganda personalizada, está haciendo que esto sea ya casi imposible. 

La carrera hacia la inteligencia artificial general: ¿el Santo Grial o la caja de Pandora?

El padre de la IA avisa: "Están jugando a la ruleta rusa con la humanidad"

Y por si no fuera poco con Yuval Noah Harari metiendo miedo en el cuerpo con la rebelión de las máquinas, ahora se suma otro peso pesado: Stuart Russell, experto mundial en IA, que acusa a Sam Altman de jugar sucio con la humanidad en lo que a ChatGPT se refiere.

Lo que distingue la visión de Russell de la de otros muchos expertos de la materia, está en lo preciso de su análisis. Para entenderlo, es importante partir de la base de que este profesor no habla de mundos apocalípticos, como lo expresan las películas de ciencia ficción. Al menos, no de una forma convencional. Para Russell, el riesgo no está en que las máquinas tomen conciencia.

Esta posibilidad, que atormenta a algunos, no es verosímil para el experto. Lo que él teme son máquinas terriblemente competentes que, de una forma u otra, persigan objetivos mal definidos. Altman y OpenAI son un ejemplo.

Apple se desinfla, mientras que China conquista otro mercado clave, el de los relojes inteligentes

¿Se está creando una herramienta que ayudará a resolver los problemas del mundo, o un monstruo que acabará dominando a todos? 

Finalmente, Sam Altman es de lo que cree que la AGI está a la vuelta de la esquina, y que se podría alcanzarla con la tecnología que ya existe a día de hoy. Pero no todos comparten su optimismo ciego. Muchos expertos comentan que todavía la humanidad está muy lejos de crear una IA que pueda aprender, razonar y resolver problemas como un humano.

Entonces, ¿a quién habría que creer? ¿A los visionarios que hablan de un futuro utópico gracias a la IA, o a los expertos que advierten sobre los riesgos de jugar con un tema tan peligroso como la AGI? 

Otros artículos interesantes: