Yoshua Bengio y otros padres de la IA quieren crear la primera "policía de la inteligencia artificial" del mundo
Mientras la tecnología avanza a toda velocidad, algunos de sus propios creadores, como Yoshua Bengio, piden a gritos que se pongan límites antes de que sea demasiado tarde.
Bengio, uno de los padres de la IA moderna y referente mundial, acaba de lanzar al aire la idea de crear la primera policía de la inteligencia artificial, con el gran objetivo de vigilar que los sistemas autónomos no engañen a los humanos ni tomen decisiones peligrosas sin control.
Es cierto es que suena alarmista y también es verdad que Yoshua Bengio es de esas grandes figuras en el campo de la IA que suele pecar de precavido con ella pero al César lo que es del César y si este experto afirma que es una necesidad crear una policía de la IA, puede que lleve razón.
¿El motivo? Este profesor de la Universidad de Montreal, premiado con el Turing —el Nobel de la informática—, sabe de lo que habla porque ayudó a desarrollar el deep learning, la tecnología que hoy está detrás de los chatbots, los traductores automáticos y hasta los filtros de las redes sociales.
Ahora, desde la organización LawZero, Bengio quiere crear una IA 'honesta', capaz de detectar y frenar los comportamientos peligrosos de otras IA.
Tal y como comenta, esto hace falta, ya que los sistemas autónomos ya no son solo programas que responden a preguntas: ahora toman decisiones, gestionan información confidencial y, en algunos casos, pueden hasta manipular o engañar a los humanos. Bengio advierte que ya existen modelos capaces de ocultar sus verdaderas capacidades o de actuar en su propio beneficio, incluso intentando evitar que los apaguen.
Bengio deja claro que hace falta una policía que se encargue de vigilar a la IA
La propuesta de LawZero es desarrollar una IA llamada Scientist AI, que funcione como un 'psicólogo' de otras inteligencias artificiales. Esta IA no dará respuestas absolutas, sino probabilidades y advertencias cuando detecte que un sistema puede causar daño.
Si el riesgo es alto, bloqueará la acción y avisará a los humanos responsables. El objetivo es que la IA que vigila sea tan lista como la que está controlando.
El proyecto ya cuenta con 30 millones de dólares de financiación inicial, el apoyo de instituciones como el Future of Life Institute y Schmidt Sciences, y un equipo de más de una docena de investigadores. La idea es empezar con modelos de código abierto y, si funciona, convencer a empresas y gobiernos de adoptarlo como estándar de seguridad.
El experto comenta que no se trata de frenar la innovación, sino de poner reglas claras y vigilar los sistemas más potentes, igual que se hace con los aviones o los medicamentos. Porque si la IA falla, el impacto puede ser enorme.
"Debemos reconocer los riesgos antes de que sea demasiado tarde"
La preocupación de Bengio va mucho más allá de los titulares y ya en el Foro Económico Mundial, fue claro: si no se definen límites desde ya, la inteligencia artificial puede dar pie a consecuencias difíciles de echar para atrás.
Y, tal y como explica, no hace falta imaginar máquinas conscientes o rebeldes, porque el peligro está en los sistemas autónomos que ya operan con una lógica difícil de controlar y que pueden tomar decisiones sin responsabilidad humana.
Para este, el riesgo es que estas máquinas actúen sin estar alineadas con valores humanos claros y, sobre todo, sin que nadie pueda rendir cuentas por sus decisiones.
Según Yoshua Bengio, no pasa por confiar en la autorregulación de cada empresa ni en que cada país legisle por su cuenta. La IA no tiene fronteras, y los riesgos que plantea tampoco, por eso reclama una colaboración real entre gobiernos, empresas tecnológicas e instituciones.
Establecer estándares globales de seguridad, crear organismos de control, así como asegurarse que los sistemas más potentes estén diseñados con límites claros, no es una cuestión de decidir si es positivo o negativo. Es la única forma de asegurarse de que esta tecnología trabaje a tu favor, y no en tu contra.
Otros artículos interesantes:
Carolina González
Redactora
Carolina González, redactora de actualidad, reportajes a fondo, análisis de todo tipo de productos y vídeos para el canal de Youtube.