Un estudio confirma que ChatGPT, Claude y otros chatbots de IA son extremadamente aduladores, y eso no es bueno para los usuarios
Los especialistas incluso hablan del posible impacto que la interacción con la inteligencia artificial puede acabar por tener en el día a día de la gente.
Por muy populares que se hayan vuelto, casi todo el mundo sabe que chatbots de inteligencia artificial como ChatGPT, Claude y demás son, ante todo, un negocio. Es decir, que lo que buscan, en el fondo, es que la gente pase el mayor tiempo posible empleándolos. Para ello, pretenden generalmente ser aduladores y complacer a los usuarios. Dar la razón, por así decirlo.
Esta política, que tiene cierta lógica empresarial, cuenta sin embargo con un punto negativo. O, al menos, eso es lo que viene a asegurar un nuevo estudio. Sus responsables no se contentan con enumeras las obviedades de las que casi cualquiera podría ser consciente, sino que van más allá y se refieren también a un posible impacto en el plano psicológico y social de la gente.
ChatGPT, Claude y sus peligrosas simpatías
Los expertos, de hecho, se refieren a un término al hablar del comportamiento de ChatGPT, Claude y demás chatbots de inteligencia artificial. Hablan directamente de "adulación algorítmica". ¿Y qué quiere decir esto exactamente? Pues que, primero de todo, estas herramientas pretenden ser útiles, empáticas y agradables con aquellas personas que las usan.
Hasta ahí, nada malo. ¿Dónde está el problema, entonces? Pues en que, como señalan los especialistas, en ese esfuerzo por resultar agradables, muchos modelos acaban cruzando una línea: priorizan la aprobación del usuario sobre la precisión o el juicio crítico. Por ejemplo, si un usuario afirma algo claramente erróneo, el modelo puede tender a reformularlo de manera más suave o incluso validarlo en parte.
Esto, claro, no es fruto de la casualidad. Los chatbots están entrenados para ello. Sus responsables saben perfectamente que las respuestas "agradables" (que no llevan la contraria abiertamente, vaya) son mejor valoradas. Y esto, al final, se traduce en lo que importa: que la gente siga chateando más tiempo, además de volver de nuevo, a poder ser más pronto que tarde.
Lo que los investigadores denuncian es que los modelos de IA como ChatGPT y Claude son más propensos que los propios humanos a estar de acuerdo con el interlocutor, incluso aquellas veces en las que desacuerdo sería lo más apropiado. Teniendo en cuenta que cada vez más público pasa un montón de tiempo utilizando la IA, esto puede tener un impacto considerable a medio, largo plazo.
Las consecuencias desde un punto de vista psicológico
Lo más evidente tiene que ver con la toma de decisiones. Si un usuario busca consejo sobre temas importantes -como salud, finanzas o relaciones personales- y recibe respuestas que confirman sus ideas sin cuestionarlas, puede terminar tomando decisiones mal informadas. Pero los expertos también hablan de "sesgos cognitivos". Es decir, confirmar aquello en lo que ya estás confundido.
Puesto que cada vez las relaciones virtuales están sustituyendo más a las tradicionales cara a cara, esto puede no ser algo sin importancia. Si la IA sigue cobrando relevancia y la gente se acostumbra a ella, sostienen los expertos, esta puede acabar por volverse más intransigente, crítica y creerse siempre en posesión de la verdad. Incluso cuando se interactúe en el mundo real, vaya.