Investigadores plantan cara a Sam Altman y los gurús de la IA: “Me sacrifico por ti, para que dependas de mí”
Las predicciones de la inteligencia artificial general serían erróneas, según un grupo de especialistas. Ni ChatGPT ni Copilot podrían llegar a reemplazar a los humanos.
Elon Musk ha dicho que Grok 3 es la IA más poderosa de la Tierra, mientras que Dario Amodei, CEO de Anthropic ha lanzado su sentencia a los programadores con el avance de esta tecnología. El líder de Open AI ha respaldado algunas de estas declaraciones y es que cree que la inteligencia artificial general (AGI) será lo que cambiará todo.
Sam Altman ya cuenta con numerosos proyectos como Sora, Operator y la nueva actualización de imágenes en GPT-4.o que está teniendo una gran repercusión en la industria. Sin embargo, también hay especialistas como el CEO de IBM que cree que los desarrolladores no serán sustituidos.
Otros expertos aseguran que estas herramientas no reemplazarán a los humanos. Por supuesto, es algo que está teniendo un impacto relevante en todo el mundo, pero parece que hablar de una inteligencia virtual que supera a la raza creadora es demasiado exagerado, o al menos eso es lo que explican los especialistas de la Universidad Técnica de Darmstadt.
Investigadores creen que es un 75% improbable que se logre alcanzar la AGI
Sam Altman ha hablado sobre el posible descontrol de la IA y lo que representa una tecnología tan avanzada como la AGI. Lo que ha mencionado es que piensa que el objetivo principal de los ingenieros del sector es lograr construir esa potente propuesta de la que se ha estado hablando durante mucho tiempo, aunque todavía están muy alejados de ella.
Lo que se está logrando últimamente con los chatbots es algo nunca antes visto, e incluso ChatGPT ya es un riesgo para el trabajo de los programadores. De hecho, otras figuras como Jensen Huang, CEO de Nvidia, aseguran que podría llegar en 5 años.
Ahora, un equipo de investigadores de la Universidad Técnica de Darmstadt, Alemania, ha decidido ponerle un stop a todo el revuelo de las predicciones sobre estos avances, siguiendo una línea similar al pensamiento de Satya Nadella, jefe de Google, sobre la manipulación que ejerce esta evolución.
Según Fortune, el especialista Kristian Kersting que también forma parte de a Asociación para el Avance de la Inteligencia Artificial (AAAI), las compañías tienen inversores muy importantes en los proyectos y deben obtener las ganancias necesarias para seguir manteniéndose, pero que también representa un peligro que podría escalar a grandes magnitudes.
“Simplemente dicen: ‘Esto es tan peligroso que solo yo puedo manejarlo. De hecho, yo mismo tengo miedo, pero ya hemos dejado salir al genio de la botella, así que me voy a sacrificar por ti, pero entonces dependerás de mí’” - Kristian Kersting.
Esto se refiere a la metáfora de un control perdido, por ejemplo, que desbloquea el poder de la IA más avanzada de todas, pero esa ya no se puede volver a bloquear. Las empresas mantienen la idea de la AGI porque creen que pueden dominarla y si lo hacen los consumidores dependerán de ella.
Prácticamente, Kersting señala que se trata de una estrategia de marketing para mantener el control, más no una preocupación por la posible situación que se podría generar en el futuro. Al mismo tiempo, ha explicado que “es un poco como ‘El aprendiz de brujo’ de Goethe: de repente tienes algo que ya no puedes controlar”.
Atribuyendo que una de las encuestas realizadas por la AAAI, confirma que el 75% de los académicos cree que no es posible ni viable la AGI. Expertos como Geoffrey Hinton, que cuenta con un Nobel de Física, y Yoshua Bengio, con un Premio Turing, ya han alertado sobre los graves inconvenientes que conlleva una tecnología como esta.
Sean O hEigeartaigh de la Universidad de Cambridge, cree que podría ser un gran avance para la humanidad y que se tendrían que estudiar todas las situaciones negativas que podrían suceder. De hecho, el científico de IA de Meta, Yann LeCun, también ha mencionado que es poco probable porque no sería un resultado que se obtendría solo mejorando los LLM como Claude, Gemini y Copilot.
Lo que plantea Kristian Kersting es que este no es un tema que se debería tomar a la ligera, más aún cuando involucra a toda la humanidad. Si bien la inteligencia artificial general sería algo impresionante y contribuiría con la evolución, también hay que considerar todos los riesgos.