Yoshua Bengio, padre de la IA, advierte sobre el peligro real de la inteligencia artificial: “Hay un riesgo de extinción humana”
El informático Yoshua Bengio apoya a Geoffrey Hinton en la prevención de la evolución de los chatbots. Los padres de la IA se unen para advertir de un posible apocalipsis.
Las preocupaciones sobre el crecimiento de los modelos de IA de ChatGPT y otros asistentes virtuales sigue en aumento. Ya no solo se trata de una tecnología que podría afectar el ámbito laboral, como dice Sam Altman, sino que también tendrá repercusión en la manera en la que se estudia.
En efecto, Geoffrey Hinton, ganador de Premio Nobel de Física 2024, ha avisado que la universidad podría ser reemplazada por tutores de inteligencia artificial, pero eso no es todo, hay algo más terrorífico. Yoshua Bengio, ganador del Premio Turing 2018 junto al mencionado compañero, también piensa lo mismo, pero no escamita en ir más allá.
Anteriormente, se le ha preguntado a estas herramientas sobre el fin del mundo y el resultado es temible, pero que un experto que forma parte de los padres de la IA lo confirme, es algo que sin duda levanta las alertas.
La extinción humana por medio de esta tecnología es posible y el científico informático del Instituto de Algoritmos de Aprendizaje de Montreal (MILA) advierte que las cosas se pondrán cada vez más intensas si no se hace algo al respecto.
Bengio afirma que el futuro de la IA es catastrófico para la humanidad
En el World Summit AI de Montréal, Yoshua Bengio ha tomado un tiempo para hablar sobre el peligro que significa seguir utilizando la inteligencia artificial sin límites. El peso de las palabras ha sido grande, explícitamente que se trata de consecuencias “catastróficas” para la humanidad e incluso supone una posible “extinción” de la raza sin no se emplea adecuadamente.
¿Cómo podría presentarse un escenario como este? Pues a través de la pérdida de control sobre los modelos de IA que constantemente están en evolución, como la herramienta de OpenAI, por ejemplo. El problema está en que hay una competencia entre compañías por ofrecer agentes “superinteligentes”, lo que podría llevar al desarrollo de la temida inteligencia artificial general.
“Todos estos escenarios surgen porque construimos máquinas que son agentes” es lo que mencionó el experto en dicha conferencia. Según lo que explica Betakit, estos agentes de IA son capaces de realizar acciones autónomas sin intervención y que esto podría hacer que engañen a los humanos de alguna manera para mantenerse y crecer.
Es decir, hay un riesgo de que la singularidad se dé en estas herramientas y no es algo positivo, pues su compañero, Hilton, también ha mencionado que los chatbots podrían superar la inteligencia humana en tan solo 18 años.
A pesar de que Bengio destaca que actualmente, el razonamiento, lenguaje natural y el aprendizaje automático son impresionantes, los pasos agigantados de la evolución de los asistentes virtuales van a ser incluso más potentes de lo que hoy en día se imagina.
Entre todo esto, aprovecha para decir que “en cinco años, la IA alcanzará el nivel humano en tareas de programación”, concordando con lo que Sam Altman ha hablado sobre el futuro de los programadores de Python y JavaScript.
Para el 2043, es posible que el impacto de las consecuencias se refleje de muchas maneras, pudiendo ser el comienzo del final. Esta ha sido la razón por la que recomienda tratar el tema del crecimiento de esta tecnología con cautela para evitar que situaciones catastróficas se lleguen a dar más pronto de lo que se espera.
Para sobrevivir hay que desarrollar sistemas “no argénticos”
Existen posibilidades de que esta inteligencia artificial autónoma pueda ser capaz de replicarse en millones de equipos para expandirse y controlar plataformas, o causar ataques con armas biológicas y militares que no serían detectados. Un error en el sistema o la singularidad podría hacer que esto pase, según lo que se explica.
Esto es probable debido al desarrollo de “instinto” de autoconservación, tal cual como pasa en las películas de ciencia ficción que antes se creían imposibles. Pero eso no sería todo, si eso no sucede, también está el peligro geopolítico que podría darse en países con modelos de IA superavanzados, como Estados Unidos con ChatGPT y China con DeepSeek.
Para evitar que esto se vuelva realidad, Bengio envía un llamado de atención a todas las compañías que desarrollan esta tecnología para enfocar la evolución en “IAs científicas” en vez de generar “IA agéntica”. De este modo, en vez de programar para que se parezcan a los humanos, que sean profesionales capaces de hacer descubrimientos médicos, climáticos y demás.
En sí, ya esto se hace, pero solicita que se centren todos los esfuerzos en esto para que sean seguros para el futuro y mejoren la calidad de vida del ser humano. Impedir el reemplazo laboral podría ser otro de los objetivos si se emplean sistemas de “barreras de seguridad” en los agentes autónomos para que no se pueda salir de control.