No solo es ChatGPT: la IA cada vez se volverá más mentirosa, según un estudio
Un nuevo estudio pone de manifiesto aquello que muchos ya sospechaban: la IA es menos fiable a medida que aumenta sus capacidades.
Quizá alguna vez te haya sucedido: entrar en ChatGPT o alguna inteligencia artificial por el estilo y darte cuenta de que su respuesta se ajusta más bien poco a la realidad. Suelen llamarse alucinaciones de la IA y cosas más o menos por el estilo, pero a decir verdad no dejan de ser mentiras. Al menos, desde un punto de vista humano, sí se consideraría así.
Pues bien, según revela un nuevo estudio, estas mentiras no solo van a seguir estando ahí, sino que con el paso del tiempo lo razonable sería que fuesen a más. Por decirlo de una manera contundente: cuanto más inteligentes se haga una inteligencia artificial (lo cual parece lo lógico, al menos en teoría), también hay más posibilidades de que se vuelva más mentirosa.
La IA es propensa a la mentira, y lo será más
Un reciente estudio publicado en Nature ha revelado una tendencia inquietante en el funcionamiento de los grandes modelos de lenguaje como GPT de OpenAI y LLaMA de Meta. A medida que estos modelos avanzan y se vuelven supuestamente más inteligentes, también parecen resultar menos fiables. Por una razón sencilla: mienten más cuanto más listos son.
Tal y como explican los responsables del artículo, aunque muchas respuestas de la inteligencia artificial sean en muchos casos más precisos, también están dando una mayor proporción de respuestas incorrectas, lo que indica que están más inclinados a “inventar” respuestas en lugar de admitir algo bastante obvio, se supone: que no tienen ni idea de una respuesta.
El estudio, realizado por José Hernández-Orallo, investigador en el Instituto Valenciano de Investigación en Inteligencia Artificial, examinó varios modelos “top” como ChatGPT. Su conclusión es bastante clara tras hacerlo: es verdad que la inteligencia artificial responde mucho más que antes, y a casi todo, pero también miente con mucha más frecuencia al hacerlo.
A diferencia de modelos anteriores, que podrían haber evitado una pregunta o admitido no saber la respuesta, las nuevas IAs o modelos de lenguaje están más inclinadas a generar una respuesta, incluso si es incorrecta. Esto es lo que el filósofo de la ciencia y la tecnología Mike Hicks de la Universidad de Glasgow denomina “hablar sin fundamento” o “bullshitting”.
Cuando la IA te engaña
La investigación también hizo que un grupo de participantes juzgara si las respuestas proporcionadas por los chatbots eran precisas o incorrectas. Los resultados mostraron que los participantes se equivocaron entre el 10% y el 40% de las veces. O lo que es lo mismo, demostró las dificultades que se tienen para distinguir entre respuestas correctas e incorrectas.
¿Existe una solución a esta tendencia? Los expertos ponen la clave en lo más fundamental de cualquier inteligencia artificial: su llamado entrenamiento.
Quizá si este se enfocara más en que una IA se centrara más en responder solo aquello de lo que sabe o está segura, y no hacer siempre lo posible por contestar a cualquier cosa, su grado de integridad, por así decirlo, sería más alto. Otra cosa es que eso interesara más o menos, sobre todo a nivel comercial, claro.