¿Qué hay detrás de 'Strawberry'? OpenAI amenaza con prohibir el acceso a ChatGPT si te pasas preguntando

OpenAI, la empresa detrás del famoso ChatGPT, acaba de lanzar su último modelo de inteligencia artificial, conocido internamente como Strawberry. Este nuevo sistema promete ser capaz de "razonar", pero parece que la compañía no quiere que nadie sepa exactamente cómo lo hace.

Tal es esta la intención, que OpenAI está amenazando con prohibir el acceso a los usuarios que intenten averiguar cómo funciona el proceso de pensamiento de su IA. 

Según informes, los usuarios están recibiendo correos electrónicos de la compañía, advirtiéndoles que sus preguntas han sido marcadas por "intentar eludir las protecciones". Por si fuese poco, incluso amenaza con quitarles el acceso a GPT-4o con razonamiento si siguen insistiendo. 

¿Por qué locura por mantenerlo bajo llave? Ellos mismos argumentan que necesitan ocultar el proceso de pensamiento de la IA para evitar problemas de seguridad y mantener su ventaja competitiva, algo que, desde luego, no parece descabellado y en cierta forma sigue el hilo que OpenAI ha querido desde siempre: mantener en secreto sus avances para evitar que Google o cualquier otra empresa les adelanten por la derecha.

OpenAI cierra la puerta, una vez más, a la transparencia en la IA

El gran problema de todo esto, como suele ocurrir, es que muchos expertos argumentan que la transparencia es clave para el desarrollo de la inteligencia artificial y OpenAI, por una cuestión empresarial siempre oculta estos aspectos.

"No estoy nada contento con esta decisión política", comenta el investigador de IA Simon Willison en su blog. "Como alguien que desarrolla en base a LLM, la interpretabilidad y la transparencia son todo para mí; la idea de poder ejecutar un mensaje complejo y que se me oculten los detalles clave de cómo se evaluó ese mensaje me parece un gran paso atrás".

Willison en concreto habla de lo que se conoce como IA Explicable o XAI, que no es más que es un conjunto de técnicas y métodos que permiten entender cómo y por qué un modelo de IA toma ciertas decisiones. Su objetivo es hacer que las decisiones de la IA sean transparentes y comprensibles para los usuarios.

Con la IA explicable, no solo recibes la decisión de aprobado o rechazado, sino también una explicación clara de por qué se tomó esa decisión. Por ejemplo, si preguntas cómo se crea un resumen, la IA explicable podría mostrarte qué datos y algoritmos se usaron y cómo se procesaron para llegar a la respuesta. 

Otros artículos interesantes: