Daniel Kokotajlo, exempleado de OpenAI: "Hay un 70% de posibilidades de que haya una catástrofe causada por la IA"
Este experto deja claro que la AGI va a ser un gran problema para la humanidad. Se atreve incluso a poner fecha a su llegada: hay un 50% de probabilidades de que sea antes de 2028.
Teniendo en cuenta los grandes avances en inteligencia artificial y esas previsiones a futuro que hacen grandes compañías como OpenAI hablando de una futura inteligencia artificial general, son muchos a los que se les pone los pelos de punta.
La gran duda es hasta donde puede llegar todo esto y, de vernos en un punto complicado, si esto podría revertirse.
Esta es una de las grandes dudas de Daniel Kokotajlo, filósofo y exanalista de previsiones en OpenAI. Este abandonó la empresa asegurando que había perdido la confianza en que actuara de forma responsable.
Calcula un 70% de posibilidades de que ocurra una catástrofe provocada por la IA y un 20% de que la tecnología llegue a causar la extinción de la humanidad.
Este afirma que la carrera por crear esa inteligencia artificial general o AGI, capaz de hacer cualquier tarea intelectual mejor que los humanos, avanza más rápido de lo que muchos creen. Y pone fecha: 50% de probabilidades de que llegue antes de 2028.
Según su visión, el riesgo no es que las máquinas decidan matar a la humanidad, sino que, sin un cuidado especial, persigan objetivos propios sin importar las consecuencias.
¿Está la humanidad realmente ante un riesgo existencial debido a la IA?
Sin duda siempre vas a encontrarte con voces de todo tipo. Esta en concreto es bastante catastrofista y osada, lanzando incluso fechas. Sin embargo, la mayor parte de los expertos piden calma.
Siempre van a resonar más fuerte palabras como las de Kokotajlo, pero la realidad es otra.
Arvind Narayanan, profesor de informática en la Universidad de Princeton y director del Centro de Política Tecnológica, tiene un punto de vista distinto. En su opinión, el miedo a que una IA destruya la humanidad es exagerado. Narayanan recuerda en una entrevista que desde los años cincuenta se han hecho predicciones apocalípticas sobre la IA y que, una y otra vez, eran equivocadas.
Para él, el problema no está en que la tecnología sea capaz de convertirse en una mente independiente con ideas y ambiciones propias. Su mayor preocupación es social.
Qué pasa si millones de empleos desaparecen, si unas pocas grandes empresas concentran demasiado poder o si los gobiernos no actúan a tiempo con normas eficientes y claras. Narayanan rechaza por completo las estimaciones de Kokotajlo. Mientras uno habla de un 50% de probabilidad de ver AGI en apenas tres años, el otro sitúa la posibilidad por debajo del 1%.
El debate pone sobre la mesa una duda: ¿qué significa realmente que una IA aprenda?
Narayanan explica que los grandes modelos de lenguaje, como ChatGPT, no son tan inteligentes como parecen. No aprenden en tiempo real de cada usuario, sino que dependen de enormes bases de datos estáticas.
"Ni siquiera están al nivel de un niño pequeño", afirma. Explica que si se cambian las reglas del ajedrez, un humano se adapta enseguida, pero una IA entrenada con millones de partidas sería incapaz de hacerlo.
En cambio, Kokotajlo, con sus ideas más apocalípticas, va por otro camino. Habla de sistemas automatizados capaces de investigar y mejorar otras IA por sí mismas, acelerando de forma irrefrenable su evolución.
En ese caso, dice, el mundo podría vivir el nacimiento de una superinteligencia fuera de control y afirma que los científicos no siempre saben cómo funcionan internamente las redes neuronales que entrenan.
Para este, el gran problema es interno. Critica que las grandes compañías están funcionando con la filosofía clásica de Silicon Valley: avanzar rápido y romper cosas. Ese lema, dice, que es erróneo cuando se está hablando de tecnología con capacidad de transformar el mundo entero.
Para él, la clave está en la alineación: garantizar que un sistema siga los objetivos humanos, incluso cuando tome decisiones por sí solo. Si eso falla, comenta, la humanidad podría perder el control sin darse cuenta. No porque las máquinas quieran rebelarse, sino porque no entenderían ni valorarían la supervivencia humana. "Las especies se extinguen como daño colateral", añade.
Narayanan, por su lado, cree que confiar la seguridad de las personas a la alineación es un error. Considera más útil aplicar el mismo enfoque que se usa para protegernos de otros seres humanos: leyes, regulaciones, controles externos y responsabilidades claras.
Si lo miras desde otra perspectiva, lo cierto es que hay algo en lo que ambos bandos están de acuerdo: hay que regular e informar. La sociedad tiene que entender a la perfección que está ocurriendo y cómo se están desarrollando los avances.
Carolina González
Redactora
Carolina González, redactora de actualidad, reportajes a fondo, análisis de todo tipo de productos y vídeos para el canal de Youtube.