¿ChatGPT tiene tendencias políticas? Un ingeniero le hace un test y lo desenmascara
Los expertos coinciden en que el sesgo total cero es imposible, incluso en la IA. ChatGPT no opina como humanos, pero sí hereda los sesgos de los datos con los que se entrenan.
Este ya se ha convertido en un tema recurrente. Teniendo en cuenta de que se trata de una máquin, por mucha naturalidad o 'humanidad' presente, lo cierto es que carece de valores, ética o pensamiento crítico.
Sin embargo, ya se ha podido comprobar en varias ocasiones que parece que algunos chatbots, como ocurre con ChatGPT de OpenAI, tiene un determinado pensamiento político. Esto es precisamente lo que un ingeniero español se ha propuesto descubrir, aplicándole un test de ideología.
Según Didado explica en un vídeo de TikTok, utilizó una cuenta nueva y neutral para preguntarle a ChatGPT, pregunta por pregunta, todo lo que incluye un test político como si fuera un ciudadano de a pie más.
Y el resultado, según publicó él mismo, acerca a la IA de OpenAI al espectro político del PSOE, dejando bastante claro que ni los algoritmos más avanzados son realmente 'neutros'.
¿ChatGPT tira más hacia la izquierda?
La ciencia da la razón a esa pregunta… pero solo a medias. Investigaciones recientes, como la dirigida por la Universidad de Pekín, replicaron con miles de preguntas el famoso Political Compass Test a varias versiones de ChatGPT para ver cómo iban cambiando sus respuestas a lo largo del tiempo.
En cuanto a lo que encontraron y si bien el bot partía de una 'izquierda libertaria', ciertos modelos empezaron a mostrar una tendencia hacia la derecha con el paso de los meses.
Según pruebas realizadas tanto en español como en inglés, la IA tiende a quedar en un punto centrista cuando se le obliga a elegir, aunque dependiendo del idioma y del tipo de preguntas, se inclina entre posturas progresistas y otras más liberales o incluso conservadoras.
Por ejemplo, en el Test de Nolan —un clásico para medir la orientación política entre libertades personales y económicas— ChatGPT dio respuestas centradas, aunque en español tendía ligeramente hacia el progresismo, mientras que en inglés se inclinaba más hacia una visión liberal en temas personales o muy individuales.
Lo que debes saber de forma simple es que estos chatbots se reentrenan y mejoran con las conversaciones con los humanos. Estos le dan texto, les corrigen y más y ellos evolucionan para cada vez dar respuestas más precisas. Que dentro de todo esto entrase un pensamiento político desde luego que no entraba en los planes.
Añadir que aquí que los propios desarrolladores o creadores de estos modelos de IA no han sido los encargados de decir que ChatGPT va a tener un pensamiento X o Gemini y pensamiento Y. Se basa puramente en lo que hay en internet. Si la tendencia en ese momento a nivel español va más hacia la izquierda, esta será su respuesta, y viceversa.
Los expertos coinciden en que el sesgo total cero es imposible. ChatGPT y otros modelos no 'opinan' como humanos, pero sí 'heredan' los sesgos de los datos con los que se entrenan y de las reglas de sus desarrolladores.
El gran problema no es que tenga ideología, sino que puede llegar a manipularte
Aunque el hecho de que tenga una cierta tendencia política deja bien claro el sesgo de internet, más peligroso aún es que sus frases o consejos a nivel político puedan llegar a manipularte.
David Rozado, científico informático de la Politécnica de Otago en Nueva Zelanda, ha descubierto el tema del sesgo político y sus peligros al someter a 24 modelos de lenguaje grandes, incluyendo aquellos que se encuentran detrás de chatbots muy famosos como ChatGPT y Gemini, a diferentes tests políticos.
El resultado es el mismo que el anterior y es que tienden, de forma generalizada, hacia posturas de centro-izquierda.
Pero esto no se queda aquí y el estudio de Rozado va más allá y demuestra que es posible 'educar' a estos modelos para que se inclinen hacia un lado u otro. Esto puede parecer muy positivo, pero realmente lo que se esconde por detrás es que es muy fácil manipularlos y hacerles pensar como quieres.
Esta preocupación no es algo que tomar a risa. Con gigantes como Google integrando respuestas de IA en sus búsquedas, y cada vez más personas usando estas herramientas, el riesgo de que tu pensamiento se vea influenciado ahí está.
Teniendo todo esto en cuenta, Rozado ha querido hacer un llamamiento a la reflexión crítica. "Es crucial examinar y abordar de forma crítica los posibles sesgos políticos incorporados en los LLM para garantizar una representación equilibrada, justa y precisa de la información en sus respuestas a las consultas de los usuarios", comenta.
Geoffrey Hinton cree que la IA podría crear un caldo de cultivo perfecto para el extremismo político
El experto en IA no teme que las máquinas se vuelvan contra los humanos, como en las películas o como algunos expertos ya están haciendo creer. Su preocupación es mucho más real y seguro que resuena a un pasado que no queda excesivamente lejos. Cree que la IA podría hacer que aumente la desigualdad en la sociedad, lo que a su vez podría llevar al auge del fascismo.
"El problema es que vivimos en una sociedad capitalista", explica. Según él, la IA va a generar mucha riqueza, pero esta riqueza no se repartirá de forma justa. "Los ricos se harán más ricos, y mucha gente perderá su trabajo", advierte.
Esta situación, dice Hinton, podría crear un caldo de cultivo perfecto para el extremismo político. "Cuando aumenta la diferencia entre ricos y pobres, crece el terreno fértil para el fascismo", afirma. "Es triste porque solo estamos haciéndolo peor y peor", dice. "Podría ser algo que ayudara a todo el mundo, pero si los beneficios van solo para los ricos, la sociedad será claramente peor".
