Helen Toner, exdirectora de OpenAI, advierte de los peligros de la IA: "Un mundo totalitario, con un poder muy concentrado"

Desde luego, cuando se habla de inteligencia artificial, hay voces de todo tipo y seguramente con unas estés más de acuerdo que con otras. Sin embargo, hay que dejar claro que cuando proviene de un experto o experta de gran reputación en este campo, al menos hay que prestarle atención.

Este es el caso de Helen Toner, desconocida por muchos, no es una cualquiera. Fue directora en OpenAI, la empresa que creó ChatGPT, y ahora trabaja en un centro de seguridad tecnológica en Washington.

Teniendo en cuenta esta experiencia y su actual trabajo, no cabe duda de que tiene una gran idea de cuál es el lado oscuro de la IA, ese que muchos prefieren ignorar. Ella, en una entrevista a El País, dice claro y sin rodeos que la IA puede llevar a todos a un mundo donde el poder esté en manos de muy pocos y donde la mayoría de la gente pierda el control sobre su vida y sus decisiones.

"Tendremos sistemas de IA muy potentes, capaces de superar a los humanos en tareas estratégicas o intelectuales. Hablamos como si hubiera un destino obvio, pero en realidad no sabemos cómo será el futuro para que los sistemas de IA se vuelvan más avanzados", comenta.

"Hay muchas cosas que pueden salir mal", explica. "Uno de los escenarios más probables es que demos cada vez más autonomía a los sistemas de IA y los integremos en la sociedad, la economía y el ámbito militar sin suficiente control. Eso puede llevar a situaciones donde la IA coopere entre sí para controlar a los humanos, o a un mundo donde el poder esté en manos de muy pocos, con una concentración extrema de poder", añade.

La carrera hacia la inteligencia artificial general: ¿el Santo Grial o la caja de Pandora?

"Si todo el desarrollo de la IA se detuviera ahora, su impacto ya sería tan grande como el de internet"

Para ella, el riesgo de un mundo totalitario no es algo tan loco como uno puede pensar. "Podemos acabar en un lugar que parece agradable, con entretenimiento constante y comida rápida, pero sin vidas con sentido real. Y lo peor es que un pequeño grupo podría usar la IA para controlar todo, dejando a la mayoría sin voz ni poder".

"Sí, puede ir muy mal. Hay muchas formas en que puede salir mal, no solo el típico escenario apocalíptico donde todo se destruye. Pero sí, la concentración del poder es un riesgo real y preocupante", añade.

Pero el verdadero riesgo, según explica, está en la autonomía que se le da a estos sistemas, afirmando que si se deja que la IA tome decisiones sin supervisión humana, especialmente en la economía, la política o el ejército, la humanidad podría acabar fatal y en situaciones muy peliagudas de resolver.

Un ejemplo que pone es el fenómeno de las 'sectas de la IA'. "No es ciencia ficción. La historia humana nos muestra que es muy fácil formar una secta y hacer que la gente haga cosas irracionales. La IA puede convertirse en ese líder carismático que la gente sigue ciegamente".

En cuanto a la competencia internacional, Toner es clara: "Estados Unidos y China están en una carrera frenética por dominar la IA. EEUU sigue liderando en sistemas avanzados, pero China está muy cerca, especialmente en aplicaciones militares. La diferencia puede ser cuestión de meses". 

Otros artículos interesantes: