Expertos encuentran el motivo por el que ChatGPT abusa tanto de ciertas palabras: "Un cambio sin precedentes"
El chatbot de OpenAI es el rey de la IA, pero tiene una manía que saca de quicio: repite algunas palabras hasta la saciedad. ¿Por qué lo hace? ¿Y cómo te afecta eso?
ChatGPT está en todas partes: lo usas seguramente que cada día para trabajar, estudiar, escribir correos electrónicos... pero hay algo que empieza a mosquear a muchos y es esa tendencia a repetir ciertas palabras una y otra vez. Si lo usas de forma frecuente, muy probablemente te has fijado en cómo abusa de "definitivamente", "esencial" o "en este sentido".
Un grupo de investigadores de la Universidad Estatal de Florida ha querido dar una explicación a esto y no ha parado hasta encontrar una mínima respuesta a los motivos. Lo curioso es que, lo que han descubierto es más interesante, y preocupante, de lo que parece.
Notaron que ChatGPT utilizaba ciertas palabras de forma exagerada, palabras como delve (profundizar), realm (reino) e intricate (intrincado). Al comparar textos generados por este chatbot de inteligencia artificial con textos escritos por humanos, encontraron que estas palabras aparecían demasiado.
¿Por qué pasa esto? Según los investigadores, todo se reduce a cómo se entrenan estos modelos de lenguaje. Al exponerlos a cantidades ingentes de texto, aprenden a asociar ciertas palabras con ciertos contextos. Si una palabra aparece mucho en textos que se consideran buenos, el modelo la adoptará como suya.
Pero añadir que estos investigadores fueron un paso más allá y se preguntaron si este fenómeno podría estar afectando incluso a tu forma de pensar. Para ello, realizaron un experimento en el que mostraron a los participantes dos versiones de un mismo texto: una con las palabras "antes comentadas que más repite, y otra sin ellas.
Descubrieron que los participantes reaccionaban de forma más negativa a la palabra delve que a las otras, dejando entrever que estas palabras podrían estar perdiendo su significado original debido a su uso excesivo por parte de los chatbots.
¿ChatGPT empieza a delirar? La razón por la que la gente le pide cosas raras
Además de repetir algunas palabras, ChatGPT también tiene una extraña tendencia a irse por las ramas y dar respuestas que poco tienen que ver con tu mensaje original. ¿A qué se debe esto? Según los expertos, también podría ser una consecuencia de la forma en que se entrena el modelo.
Para mejorar este gran problema que llevan arrastrando desde sus orígnes, los desarrolladores de ChatGPT utilizan una técnica llamada aprendizaje por refuerzo con retroalimentación humana (RLHF). Esta técnica consiste en pedir a los usuarios que evalúen las respuestas del modelo y den sus comentarios. Luego, el modelo utiliza esta información para mejorar su capacidad de generar respuestas, ajuntándose a las indicaciones previas dadas por un humano.
Luego están las personas que le piden 'por favor' las cosas a ChatGPT
Rizando el rizo, y ya viendo que hay mucha psicología detrás de algo que parece básico, existe otra cuirosa tendencia, esta vez humana, que llama bastante la atención. Tal y como ya se explicó en otro artículo de Computer Hoy, muchos usuarios no dudan en utilizar medidas de cortesía que parecerían más propias de una interacción entre humanos que en una relación humano-máquina.
Dan los buenos días o incluso solicitan la información que demanden pidiéndola por favor. Según la recoge JVTech, el 70% de las personas que interactúan con ChatGPT y otros chatbots lo hacen usando cortesía, saludando y pidiendo las cosas por favor.
A priori, podría pensarse que esta actitud tan considerada no es más que una conducta habitual, o deberse al hecho de que la IA, en el fondo, pretende simular un comportamiento humano. Pero no es del todo así.
¿Y por qué lo hacen? Eso es lo más llamativo. En realidad, en el estudio se explica que este trato amable y considerado hacia la IA corresponde a otro motivo, mucho más singular: lo hacen como una especie de precaución ante lo que pudiese pasar en el futuro. En pocas palabras, parece que ese miedopor su poder oculto o por si en algún momento las máquinas llegasen realmente a revelarse y posicionarse en contra de los seres humanos, da pie a todo esto.
Otros artículos interesantes:
Carolina González
Redactora
Carolina González, redactora de actualidad, reportajes a fondo, análisis de todo tipo de productos y vídeos para el canal de Youtube.