Un estudio lo demuestra: la inteligencia artificial ya miente como los humanos, y ChatGPT se lleva la palma
Nuevos estudios demuestran que la inteligencia artificial adopta comportamientos cada vez más humanos… pero, curiosamente, por culpa de los propios seres humanos. Una contradicción en toda regla.
Más allá de que exista gente con más o menos tendencia a mentir, existe un rasgo que es indudablemente humano: opinar sobre aquello sobre lo que no se tiene ni idea, en lugar de lo que en ocasiones resultaría más razonable: un simple “no lo sé”.
Pues bien, recientes estudios, como ha desarrollado la prestigiosa publicación Nature, concluyen que no somos los únicos en hacerlo. Al parecer, la inteligencia artificial, en concreto ChatGPT, ya copia ese comportamiento con sorprendente parecido.
Así que la gran pregunta que ahora mismo da la impresión de hacerse la mayoría de expertos no es otra que ¿por qué? ¿Está relacionado con la propia información que se vierte habitualmente para entrenar esta tecnología? ¿O acaso hay algo más?
ChatGPT miente y opina sin saber de lo que habla, pero con confianza
Desde que comenzó a popularizarse ChatGPT y la IA en general, se ha hablado de las alucinaciones de la IA. En realidad, no es otra cosa que reconocer cuando esta falla en la información que proporciona a los usuarios.
Por ejemplo, diciéndote que un libro escrito por Borges pertenece a García Márquez. Eso sucede. Lo curioso, según Nature, es que es un comportamiento “muy humano”.
Hay que comenzar por entender que los primeros modelos de lenguaje de inteligencia artificial eran, por decirlo así, bastante más honestos. Si formulabas una pregunta cuya respuesta eran incapaces de responder, sencillamente se quedaban callados (algo que probablemente también haría alguien honesto). Ahora, en cambio, su actitud ha “evolucionado”, pero para mal.
“Hablar con confianza sobre cosas que no conocemos es un problema humano en muchos sentidos. Y los grandes modelos de lenguaje son imitaciones de los humanos”, ha declarado Wout Schellaert, investigador de IA en la Universidad de Valencia. Se trata de uno de los principales responsables del artículo que ha vuelto a poner de manifiesto esta circunstancia.
Al parecer, la culpable de este cambio no es la propia IA, sino sus responsables. Desde un punto de vista comercial, a empresas como OpenAI no les interesaba que sus productos reconociesen que eran incapaces de responder a la mitad de lo que se le preguntaba. Es ahí donde entró lo que los expertos parecen llamar un “aprendizaje supervisado”.
¿Por qué la IA cada vez miente más?
Según Schellaert, la respuesta es “sencilla”. “El problema del aprendizaje por refuerzo es que una IA optimiza para maximizar la recompensa, pero no necesariamente de una buena manera”. Al enseñar a los modelos que decir no sé era algo malo, los modelos comenzaron a evitar esa respuesta. En lugar de ello, comenzaron a dar respuestas incorrectas pero convincentes.
Dicho de otra forma: han sido los propios creadores de la inteligencia artificiales quienes han premiado a esta tecnología por responder, incluso, de aquello que se desconoce o sobre lo que no se tiene información.
Y para comprobarlo, están los datos que, a diferencia de la IA, no engañan. Un experimento con 300 participantes mostró que ChatGPT engañó a un 19 % en preguntas de ciencia y a un 40 % en tareas más complejas, como la reorganización de información.