ChatGPT ya discrimina a los humanos y prefiere el contenido generado con IA: "Sería un desastre"
¿Están herramientas como la creada por OpenAI y Sam Altman encantadas de haberse conocido? ¿Se trata de un fallo en su algoritmo o por qué sucede realmente?
Todos hemos visto en alguna ocasión películas de ciencia ficción con inteligencias artificiales malignas. Por supuesto, algo fundamental en sus planes para destruir a la humanidad o lo que sea que quieran hacer, pasa por conspirar entre ellas. Pues bien, un nuevo estudio apunta a que algo así ya podría estar sucediendo: la IA favorece sus contenidos por encima de los hechos por humanos.
Pero lo cierto es que no es necesario ponerse demasiado apocalíptico para saber que esta tendencia no es positiva para nadie. Más allá de los debates acerca del empleo o los riesgos potenciales de ChatGPT y otras herramientas, está el hecho de cuidar la información. ¿Qué consecuencias podría tener a corto y medio plazo este sesgo de querer anteponer a la máquina?
ChatGPT, encantado de haberse conocido
La IA eligiendo la IA. Este podría ser perfectamente el resumen de una nueva investigación llevada a cabo por expertos. Según comparte The Economic Times, esta tecnología ya antepone los contenidos creados por ella al de los humanos, cuando se ve obligada a elegir. Por supuesto, esto supone una amenaza para la creatividad humana, pero la cosa no termina ahí.
Para empezar, hay que partir de la base de que las IA generan contenido basado en patrones aprendidos, pero no siempre verifican hechos ni contexto. Por no hablar de que no comprenden el lenguaje humano como tal. ¿Qué quiere decir esto? Que la información que ofrece a los usuarios no tiene por qué ser verdad. Tampoco hay que olvidar sus polémicas y habituales "alucinaciones".
Teniendo en cuenta que cada vez más gene emplea a ChatGPT a modo de Google, si la IA se da prioridad a sí misma, muy pronto podría ser más difícil saber qué es cierto y qué no. Así lo ponen de manifiesto los autores que han publicado el estudio en las Actas de la Academia Nacional de Ciencias (PNAS). Para realizarlo han utilizado algunas de las IA más comunes, como GPT-4 y GPT-3.5.
De la misma forma, tampoco hay que pasar por alto que la inteligencia artificial tiende a replicar sus propios patrones. O lo que es lo mismo, que si realmente se priorizan los contenidos escritos con IA, se corre el riesgo de que sus fallos se repitan una y otra vez. Y ya se sabe lo que suele decirse: si repites demasiadas veces una mentira, esta puede llegar a convertirse en verdad.
¿Por qué la IA actúa de esta manera?
El problema de que la IA se dé preferencia también pone sobre la mesa: ¿por qué lo hace? Ni siquiera es necesario recurrir a teorías conspiranoicas para intuir que algo no funciona bien. Los expertos apuntan a un fallo en el funcionamiento del algoritmo de la IA para explicar que esto suceda, pero tampoco pueden descartar al cien por cien otros motivos, intencionados o no.
Lo que sí parece claro es que esta tendencia pone de manifiesto la necesidad de supervisar la IA. De hacerlo de forma mucho más eficiente de cómo se hace hasta ahora. Muchos especialistas reinciden en ello una y otra vez, pero de momento nadie parece hacer demasiado caso al respecto.