Ilya Sutskever, cofundador de OpenAI, mete miedo: “Construiremos un búnker antes de liberar la inteligencia artificial general”
Mientras que Sam Altman habla sobre lo fascinante que podría ser la AGI, Ilya Sutskever cree que hay que tomar precauciones sobre el crecimiento de la inteligencia artificial.
Varios padres de la IA han destacado que las herramientas como ChatGPT pueden volverse una amenaza en el futuro. No solo los programadores están en riesgo de perder el trabajo, sino también otras profesiones e incluso los mismos profesores de las universidades podrían ser reemplazados.
El avance exponencial que ha tenido esta tecnología es evidente e, Ilya Sutskever, cofundador y ex científico jefe de OpenAI, lo tiene más que presente. Al igual que Yoshua Bengio sobre el posible fin del mundo que podría generar la IA, el mencionado informático israelí-canadiense, cree que será necesario protegerse por el peligro que representa.
Si bien el chatbot de la compañía a la que anteriormente pertenecía junto a Sam Altman y Greg Brockman ha tenido un rotundo éxito, el momento en el que se alcance la inteligencia artificial general (AGI) podría ser una de las eras más peligrosas de la historia, tanto que hasta se tendría que construir un “búnker”.
¿Por qué Sutskever cree que es bueno esconderse de la AGI?
En 2024, después de que se presentara GPT-4o, se confirmó que dicho experto en aprendizaje automático decidió irse de OpenAI para emprender un nuevo camino con una nueva compañía llamada Safe Superintelligence Inc., la cual está centrada en crear una superinteligencia artificial de alta seguridad para el futuro.
Sin embargo, mucho antes de esto, ya se comentaba en varias partes el crecimiento preocupante de la tecnología que provenía de la empresa de Sam Altman. En 2023, Sutskever discutía sobre el problema de la AGI sobre su posible llegada, ya que esta se enfocaría en parecerse o incluso superar la inteligencia humana en todos sus aspectos.
Según The Atlantic, los proyectos como Google Gemini, Microsoft Copilot y DeepSeek pueden volverse mucho más poderosas. Si no es así, entonces habrá otras tecnologías que tal vez la superen en los próximos años y por eso el científico menciona que “Definitivamente construiremos un búnker antes de lanzar la IA”.
Este es un plan que ideó por el riesgo por el que van a pasar las personas que trabajen directamente con estas herramientas para seguir desarrollándolas porque, en un futuro, muchos gobiernos competirán por los avances y se convertirán en objetivos.
El especialista continúa diciendo que “la decisión de entrar o no al búnker será opcional”, pero que es casi seguro que muchos quieran mantener su seguridad porque “construir una IA general provocará un éxtasis” que afectará el mundo de varias maneras.
Junto al padrino de la IA Geoffrey Hinton y Alex Krizhevsky, cofundó la red neuronal avanzada AlexNet, mientras que también participó en el programa AlphaGo para inteligencia artificial. Esto quiere decir, que lo que ha comentado sobre la amenaza de estos asistentes virtuales puede volverse real y no está tan alejado de la realidad.
Se está hablando básicamente de una consciencia que imita o evoluciona más allá del entendimiento humano. Aunque es el objetivo de muchos científicos, la AGI sigue estando muy lejos de ser creada, pero si en algún momento se logra, lo mejor es estar preparados para los cambios que se aproximan, ya que la humanidad nunca antes ha experimentado algo como esto.
¿Qué científicos deberían protegerse cuando evolucione la inteligencia artificial?
Al parecer, diversos expertos estarían bajo los ojos de muchos enemigos si llega a darse la AGI, especialmente aquellos con cargos relevantes en empresas conocidas o los mismos desarrolladores de los modelos.
Por ejemplo, Sam Altman, Ilya Sutskever, Geoffrey Hinton, Demis Hassabis, Dario Amodei y otros que son muy sonados en la actualidad podrían necesitar un búnker para seguir trabajando porque habrá un impacto bastante importante.
Los puestos de alta relevancia, líderes y personas con conocimientos avanzados relacionados con los chatbots o tecnología muy avanzada, serían protegidos de maneras que hoy en día no se pueden imaginar.
Por ahora, muchas personas reconocidas en la industria han comentado las amenazas que llegarán con ChatGPT u otras propuestas relacionadas que cuenten con capacidades imparables. No obstante, seguro que se están tomando las medidas de seguridad necesarias para prepararse.