La ideología oculta de la IA, ¿están los chatbots como ChatGPT manipulando tu pensamiento político?
Un nuevo estudio ha puesto sobre la mesa que ChatGPT y otros modelos de lenguaje similares podrían tener una inclinación política inherente. ¿Estás siendo sutilmente influenciado por la IA cada vez que hablas con ella?
Seguro que en tu grupo de amigos de siempre hay uno particularmente inteligente, que siempre tiene respuesta para todo y al que tú sueles consultar de vez en cuando tus dudas e incluso te informas a través de lo que él sabe y ha leído.
Ahora pongamos sobre la mesa que esta persona tiene una ideología muy concreta y gracias a que tú tienes preguntas sobre todo, él va poco a poco mostrándote su agenda política concreta. Pues bien, según un estudio reciente, eso es más o menos lo que está pasando con ChatGPT y otros chatbots de inteligencia artificial.
Y no, no es una teoría de la conspiración sacada de una película de ciencia ficción, ya que un grupo de investigadores se ha puesto manos a la obra y ha descubierto que ChatGPT tiene una tendencia a tirar para el centro-izquierda en temas políticos y sociales.
¿Cómo lo averiguaron? Pues bombardeando al chatbot con preguntas sobre temas 100% políticos como el aborto o la inmigración y la sorpresa se la llevaron cuando vieron que las respuestas eran consistentemente más de un lado que de otro.
¿Estás siendo sutilmente manipulados cada vez que le preguntas algo a la IA?
Teniendo lo antes comentado como base, tan solo piensa en ese adolescente haciendo un trabajo sobre política o esa persona que va a ir por primera vez a votar y buscando información sobre las elecciones en estos chatbots. Si la IA tiene sesgo, podría estar moldeando opiniones sin que te enteres.
Pero cuidado porque que esto no es una conspiración de las grandes tecnológicas detrás de estas herramientas para lavarte el cerebro. Los expertos comentan y confirman que es más bien un reflejo de la sociedad. La IA, al final, aprende de los datos que le da todo el mundo, y si esos datos tienen ciertos sesgos, la IA los replica. Y, sí, esto también ocurre con otros aspectos como el género o la religión.
Para que te hagas una idea, la inteligencia artificial es como un niño pequeño. Ve, oye y aprende del contenido que hay, en este caso en Internet. El gran problema es que las redes sociales, los medios de comunicación, los foros... todo tiende a amplificar ciertas voces y a silenciar otras, y eso es justo lo que la IA está "leyendo" para aprender.
Tal y como nos comenta en una entrevista para Computer Hoy Sergio Rodríguez de Guzmán, CTO y Socio de PUE Data, "un modelo entrenado con datos parciales, que no den una visión global y completa, estará obviando partes de la realidad al usuario. Si los datos están mal etiquetados o sesgados, los modelos llevarán también a cabo asociaciones sesgadas, lo que puede generar resultados imprecisos para los usuarios, especialmente en los modelos predictivos".
"Hay una gran responsabilidad en cuanto a la política, ya que se pierde la imparcialidad e incluso, la IA puede llegar a aprender de noticias falsas, que pueden llegar a estar creadas a propósito con el fin de influir en herramientas que usen IA. Esto podría llevar a una polarización de la sociedad e incluso afectar a la toma de decisiones", secunda Rafa López, director técnico Iberia Perception Point.
Algunas empresas ya están tomando cartas en el asunto. OpenAI, que está precisamente detrás de ChatGPT, está intentando que sus respuestas sean más neutrales en temas políticos. Pero la pregunta del millón es: ¿Es posible crear una IA completamente imparcial?
Desde luego, no es fácil. Imagina intentar explicar qué es la democracia sin usar ninguna palabra que pueda sonar más de izquierdas o de derechas. Es casi imposible y eso es a lo que se enfrenta la IA. Cada palabra, cada concepto, viene con su propio sesgo, connotaciones y asociaciones.
Al final, quizás la clave no esté en buscar una IA perfectamente neutral —aunque esta lucha por parte de las empresas es muy beneficiosa—, sino en ser conscientes de que toda información, venga de donde venga, tiene algún tipo de sesgo. Y eso incluye a la IA.
"Si la estructura que está detrás de esas soluciones no está sustentada en información de calidad y en una robusta arquitectura de datos, se ofrecerán a las personas visiones sesgadas o incompletas, algo que, si no se soluciona y optimiza, será negativo en relación con cómo las respuestas ofrecidas por la IA puedan influir en los usuarios", añade el experto.
"Sin controlar la calidad, veracidad y fiabilidad de la información que evite los sesgos, corremos el riesgo de fomentar una mayor polarización ideológica, por lo que debe ser tenido muy en cuenta", finaliza.
