Así es CriticGPT, la IA de OpenAI que critica a la IA de ChatGPT
La nueva herramienta creada con inteligencia artificial pretende detectar mejor los errores del modelo de lenguaje ChatGPT, aunque sus propios responsables reconocen que todavía no es perfecta.
El propio Sam Altman lo ha reconocido en varias ocasiones: ChatGPT no es una tecnología perfecta. De hecho, su popular herramienta de inteligencia artificial comete errores que en ocasiones resultan incluso ridículos. Se supone que el esperado GPT-5 cambiará estos problemas de la IA y resultará mucho más “razonable”, pero mientras, OpenAI tiene otras soluciones.
Nada más y nada menos que un nuevo modelo que responde al significativo nombre de CriticGPT. Gracias a él, se espera poder corregir algunas de las equivocaciones de ChatGPT.
Pero, ¿en qué consiste esta inteligencia artificial nacida para corregir a la inteligencia artificial? Sus responsables ya han contado que tienen confianza en ella, pero saben que no perfecta.
CriticGPT, lo nuevo de OpenAI
Básicamente, podría decirse que CriticGPT es una inteligencia artificial creada para detectar los errores que comete ChatGPT, y que al menos por el momento continúan siendo bastante numerosos. De esta forma, OpenAI pretende tener un mayor control sobre ellos, y evitar que estos se continúen produciendo en el futuro (¿quizá en el propio GPT-5?).
Para crear CriticGPT, los programadores han estado entrenando a este nuevo modelo de inteligencia artificial con distintos errores, que se han introducido, por así decirlo, de manera intencionada. A partir de ese momento, cabe esperar que sea la propia IA quien reconozca por ella misma los fallos de codificación de ChatGPT y los ponga en conocimiento de sus creadores.
Durante el tiempo que han estado probando de forma interna, la propia OpenAI asegura que sus resultados han logrado ser muy significativos. Sin ir más lejos, señala que todos sus empleados que la utilizaron terminaron por superar en un 60% a aquellas personas que no hicieron uso de él. Aún así, la empresa sabe que no se trata de una herramienta infalible.
Esto se debe, principalmente, a que CriticGPT ha sido entrenada sobre todo con respuestas cortas. O lo que viene a ser lo mismo, que los errores que más detecta son aquellos que podrían calificarse como “simples”. Las equivocaciones que se dan en respuestas más largas o complejas, quizá no sean tan sencillas de señalar por parte de esta IA.
En OpenAI reconocen las dificultades
También desde su blog los expertos de OpenAI han reconocido que descubrir los errores de la inteligencia artificial va a ser una tarea cada vez más complicada, a media que los propios modelos se vuelven más sofisticados. Es decir, que cuanto más preciso se vuelve ChatGPT, “más sutiles son los fallos que comete”.
A pesar de todo, los creadores de ChatGPT advierten que su modelo de lenguaje todavía comete lo que ellos mismos denominan “alucinaciones de la IA”. Y que los propios entrenadores que trabajan con CriticGPT igualmente pueden cometer fallos en el etiquetado del proceso. Más aún, si se trata de cuestiones complicadas, que ni siquiera un experto pueda evaluar del todo.
Por último, también han dicho que por ahora su trabajo se centra en errores que se cometen en un solo lugar, pero quizá en el futuro CriticGPT pueda abordar errores dispersos. Esa es al menos la idea.