Uno de los padres de la inteligencia artificial advierte de su peligro: “puede ser catastrófica para la humanidad”
Yoshua Bengio está considerada una figura clave dentro de la inteligencia artificial, y ahora ha decidido endurecer su discurso con respecto a todo lo relacionado con ella.
Es posible que hoy en día la inteligencia artificial se asocie sobre todo a nombres como el de Sam Altman, o incluso Elon Musk.
Sin embargo, la cosa viene de bastante más lejos, y en muchos casos se cruza con un nombre fundamental: Yoshua Bengio. Este científico e investigador está considerado como uno de los “padres” de la IA tal y como se entiende actualmente.
Pues bien, en una entrevista concedida actualmente, Bengio se ha sumado a todas las voces que alertan sin ningún tipo de prejuicio de la amenaza que la inteligencia artificial puede suponer para la humanidad. Según él, si no se toman las medidas adecuadas, puede volverse “una catástrofe” para todos. Su discurso, de hecho, se ha endurecido en las últimas décadas.
El padre de la inteligencia artificial advierte de sus riesgos
Nacido en 1964 en Francia y criado en Canadá, Yoshua Bengio es profesor en la Universidad de Montreal y director científico de Mila, el Instituto de Inteligencia Artificial de Quebec. Su trabajo ha sentado las bases de muchos de los avances modernos en IA y redes neuronales. Sin sus progresos, Sam Altman y ChatGPT quizá ni siquiera existiesen a día de hoy.
Bengio, junto con Geoffrey Hinton y Yann LeCun, es considerado uno de los “pioneros” en concreto del deep learning. Este enfoque de IA implica entrenar redes neuronales profundas para reconocer patrones en grandes cantidades de datos, lo cual ha sido fundamental en aplicaciones como reconocimiento de voz, traducción automática y visión por ordenador.
En las décadas de 1990 y 2000, cuando la investigación en redes neuronales pasaba por un periodo bastante bajo debido a problemas de financiación, Bengio fue uno de los pocos que continuó trabajando. Junto a sus colegas, desarrolló nuevas técnicas para hacer el aprendizaje profundo más eficiente y efectivo, lo que llevó a un resurgimiento de interés posterior por la IA.
Pese a todo, Bengio siempre se ha mostrado preocupado acerca de esta tecnología. Sin alarmismo (al menos, antes no), pero abogando por la responsabilidad. A lo largo de los años siempre ha defendido una IA responsable y el establecimiento de normativas para controlar los riesgos potenciales, como el sesgo en los algoritmos o el uso indebido de la tecnología con fines maliciosos.
Un peligro real para la humanidad
Ahora, en una entrevista concedida el medio Live Science, ha mostrado sus temores. “Es difícil ir en contra de tu propia iglesia, pero si lo piensas bien, no hay forma de negar la posibilidad de resultados catastróficos cuando alcancemos cierto nivel de IA. La razón por la que cambié de postura es porque entendí que hay escenarios que son malos, pero antes pensé que lo resolveríamos”.
“La gente suele decir que estos riesgos son ciencia ficción, pero no lo son. A corto plazo, ya vemos que se está utilizando la IA en la campaña electoral de Estados Unidos, y la cosa va a empeorar mucho en los próximos años”, asegura el investigador.
De hecho, Bengio contempla dos escenarios peligrosos: “Cuando alcancemos el nivel de superinteligencia, habrá dos riesgos importantes. El primero es la pérdida del control humano: si las máquinas superinteligentes tienen un objetivo de autoconservación, su objetivo podría ser destruir a la humanidad para que no podamos apagarlas”.
Y el segundo, no es mucho mejor: “puede suceder que se utilice el poder de la IA para tomar el control de la humanidad en una dictadura mundial. Puede haber versiones más suaves de eso y puede existir en un espectro, pero la tecnología le dará un enorme poder a quien la controle”. Algo que convendría tener muy en cuenta, como parece que ya está haciendo la propia Unión Europea.