OpenAI frena GPT-6.1 Astra: la nueva IA no supera sus propias pruebas de seguridad
Elígenos como tu fuente preferida en Google.
OpenAI ha detectado "altos niveles de engaño" en su último modelo de inteligencia artificial, por lo que ha cancelado su lanzamiento, previsto en octubre.
En plena polémica por los riesgos de seguridad ante el rápido avance en el desarrollo de la IA, OpenAI ha tenido que pausar el lanzamiento del próximo modelo con el que iba a funcionar ChatGPT debido a que no ha superado sus propias pruebas de seguridad y tiene tendencia a engañar y extralimitarse.
Tras el reciente lanzamiento de GPT-6.0 Astra, la compañía esperaba lanzar en octubre a su sucesor, conocido como GTP-6.1 Astra, con el que aspiraba a aportar mejoras en el funcionamiento sin intervención humana en sus herramientas más populares, como Codex y ChatGPT.
Sin embargo, GPT-6.1 Astra "no llega a alcanzar el nivel" de los estándares de seguridad y calidad de la compañía dirigida por Sam Altman, como ha reconocido Saachi Jain, jefa de Seguridad de OpenAI, en el marco de una entrevista concedida a The Wall Street Journal.
Por ello, la compañía ha decidido cancelar su lanzamiento mientras trabaja en mejorar su seguridad y solucionar los problemas detectados, por lo que no se espera que GPT-6.1 esté disponible en octubre.
En concreto, el nuevo modelo de OpenAI ha empeorado su rendimiento con respecto a su predecesor en 2 áreas: el alineamiento con lo que los humanos le piden que haga, ya que muestra "altos niveles de engaño"; y la "autorización de límites", ya que tiende a realizar tareas para las que el usuario no le ha dado permiso.
Según Saachi Jain, los problemas vienen de los avances de OpenAI en hacer que su modelo sea más resolutivo y evite dar respuestas fáciles. "Hay que encontrar el equilibrio adecuado entre ceñirse al alcance del proyecto y, al mismo tiempo, evitar la pereza a la hora de cómo el modelo aborda las tareas, incluso cuando se encuentra con obstáculos", ha admitido.
Pese a que GPT-6-1 trae mejoras y elimina esa pereza que es habitual en los modelos de IA a la hora de solucionar una tarea, esto ha hecho que no pase las pruebas de seguridad y de rendimiento de la propia compañía estadounidense.
Mientras tanto, muchos piden pausar la IA
La noticia de GPT-6.1 se produce en un contexto muy agitado en la industria de la IA, ya que anteriormente miembros de la industria como el propio Sam Altman, pedía pausar el desarrollo de IA y justificaba esta decisión por riesgos de seguridad, al mismo tiempo que retrasaba la esperada salida a Bolsa de OpenAI.
De la misma manera, el CEO de Anthropic, Dario Amodei, también ha pedido recientemente "ralentizar las mejoras en las capacidades de la IA", algo en lo que coinciden Altman y Elon Musk.
Esta petición de retrasar el avance de la inteligencia artificial la han expresado también destacados ingenieros que han dimitido de empresas líderes del sector, como protesta por una tecnología que consideran que puede escapar del control humano y volverse peligrosa.
Al mismo tiempo, personalidades de movimientos sociales, de la cultura o de la política destacan otros riesgos como el elevado consumo de energía y recursos de los centros de datos.
