Yoshua Bengio, pionero de la IA alerta: "Debemos reconocer los riesgos antes de que sea demasiado tarde"
El informático canadiense advierte sobre los riesgos que plantea el desarrollo acelerado de los agentes de IA. Si no se regula a tiempo, puede ser una amenaza para la humanidad.
La inteligencia artificial ya no es una promesa, sino que ya está presente en tu móvil, en el Smart TV, en las decisiones de grandes empresas, en los sistemas de salud y hasta en procesos judiciales. No hay duda de que su impacto se extiende a toda la sociedad, y lo hace a un ritmo que sorprende incluso a quienes la desarrollaron.
Una de estas personas es el informático Yoshua Bengio, quien aprovechó para recordar que el entusiasmo en torno a esta tecnología no debe hacer que se ignoren sus riesgos.
Si bien no describe un escenario en el que las máquinas cobren conciencia y se revelen por sí solas, sino que su preocupación es más realista y más urgente, y es que asegura que los sistemas autónomos que ya funcionan con una lógica difícil de auditar podrían tener consecuencias graves si se despliegan sin control suficiente.
Cabe señalar que pocas personas tienen más autoridad para hablar del desarrollo de la inteligencia artificial que Bengio, ya que es uno de los padres del deep learning, la base tecnológica de los modelos generativos que hoy marcan tendencia. Por este trabajo recibió el Premio Turing en 2018, uno de los máximos reconocimientos en el mundo de la informática.
Además de investigador, se ha convertido en una de las voces más activas en el debate sobre cómo regular la IA. No porque crea que deba frenarse el avance tecnológico, sino porque conoce sus implicaciones técnicas y sociales desde dentro. Y lo que está viendo dentro de las grandes tecnológicas le preocupa.
Los desafíos de la IA
En el Foro Económico Mundial, Bengio fue claro: si no se definen límites desde ya, la inteligencia artificial puede derivar en consecuencias difíciles de revertir. El desarrollo de agentes autónomos que toman decisiones sin supervisión humana directa es un buen ejemplo de ello.
Desde sistemas que pueden manejar armamento hasta modelos que manipulan información confidencial, el campo de acción de la IA es cada vez más amplio. Y si estos sistemas no están alineados con valores claros, pueden actuar de forma contraria al interés común.
Lo esencial no es si los chatbots se vuelven consistentes, sino que el verdadero riesgo, según el informático, está en que sus decisiones no estén sujetas a responsabilidad de los humanos. Y eso, en muchos casos, ya está ocurriendo.
Ya existen sistemas capaces de generar campañas de desinformación automatizada, suplantar identidades o crear contenidos falsos difíciles de detectar. La inteligencia artificial también se emplea en entornos militares con grados crecientes de autonomía.
No es necesario llegar a una "IA general" para que surjan problemas, la tecnología actual ya plantea desafíos serios si no se gestionan con cuidado. Por eso, Bengio insiste en que una regulación no puede esperar a que haya un escándalo mundial o incluso un accidente irremediable.
Países y tecnológicas compiten por posicionarse en el mercado, por captar talento, por acaparar recursos computacionales, una lógica de velocidad y competitividad que ha llevado a que muchas decisiones se tomen sin evaluar sus consecuencias sociales o éticas.
Poner límites no es retroceder
Según Yoshua Bengio, no pasa por confiar en la autorregulación de cada empresa ni en que cada país legisle por su cuenta. La IA no tiene fronteras, y los riesgos que plantea tampoco, por eso reclama una colaboración real entre gobiernos, empresas tecnológicas e instituciones.
Establecer estándares comunes de seguridad, crear organismos de supervisión, así como garantizar que los sistemas más potentes estén diseñados con límites claros, no es una cuestión opcional. Es la única forma de asegurarse de que esta tecnología trabaje a tu favor, y no en tu contra.
El experto no rechaza la IA, al contrario, es uno de los que contribuyó a su evolución, pero precisamente por eso subraya la urgencia de establecer límites, porque sabe que una herramienta tan poderosa, mal gestionada, puede ser peligrosa, incluso sin mala intención.
Lo que plantea no es alarmismo, es una llamada a la responsabilidad. Cuando quien ayudó a construir una tecnología te dice que puede escaparse de las manos si no se actúa a tiempo, merece la pena escucharle. No para detener su desarrollo, sino para que no llegue un momento en el que ya no se pueda corregir.