¿Quién vigila a ChatGPT? Científicos se inventaron una enfermedad falsa, y la IA le dijo a todo el mundo que era real
Un experimento pone de manifiesto la fragilidad de la inteligencia artificial de OpenAI, pero también de otras parecidas como Claude, Gemini o la propia Copilot.
¿Has escuchado hablar de una enfermedad llamada bixonimania? ¿No? Bueno, es natural, porque realmente no existe. Sin embargo, ChatGPT ha estado hablando de ella como si realmente fuese una patología real. Científicos fueron capaces de engañar a la IA y demostrar que, al menos en lo que se refiere a temas de salud, esta no es lo que se dice demasiado fiable.
El experimento tuvo un fin bastante claro: poner de manifiesto que la inteligencia artificial comete errores. Si hay algo que circula por ahí (es decir, que circula por Internet) como si fuese verdad, ella da por hecho que se trata de información cierta. Algo que también podría aplicarse a muchos otros temas, desde la política hasta la propia ciberseguridad. Por qué no.
ChatGPT y el engaño de la enfermedad falsa
Fue Almira Osmanovic Thunström, investigadora médica de la Universidad de Gotemburgo, quien engañó por completo a ChatGPT. Básicamente, lo que hizo fue inventarse una enfermedad falsa a la que puso de nombre "bixonimania". Luego publicó dos estudios que hablaban sobre ella en un servidor académico. Para ver hasta qué punto la IA se tragaba su farsa.
En esta historia, además, los detalles son importantes. Por ejemplo, como explica en Nature, la composición de los estudios. Ambos daban evidencias más que claras de que la enfermedad en cuestión no existía. Cualquier médico con dos dedos de frente se hubiese dado cuenta rápido. La inteligencia artificial, en cambio, empezó a hablar del tema como si fuese un mal real.
El resultado sorprendió incluso a su principal responsable. No solo fue ChatGPT quien picó el anzuelo. También lo hicieron algunas otras de las herramientas más conocidas de inteligencia artificial. Por ejemplo Gemini o Claude. También Copilot. Una vez más se puso de manifiesto lo que muchos expertos ya denuncian: que, en el fondo, todos los chatbots resultan muy, muy parecidos entre sí.
¿Qué pasó a continuación? Pues que la IA no se conformó con referirse a la bixonimania como algo verdadero, sino que incluso en algunos casos daba consejos de cómo enfrentarse a esta enfermedad. Los estudios falsos, por su parte, comenzaron a ser citados con frecuencia como auténticos. De la IA, claro, pasaron a distintos medios especializados, que lo creyeron también.
Un círculo vicioso en toda regla
Lo que los expertos han puesto de manifiesto con todo esto es que ChatGPT no entiende nada. No es la primera vez que se dice, pero cada vez resulta más obvio. De alguna forma, es como si se hubiese confirmado. La inteligencia artificial reproduce, no piensa. Da igual lo que diga su nombre o lo bien que simule el lenguaje humano. Y eso, claro, puede ser peligroso.
Sobre todo porque, como dicen los especialistas, de Internet cualquier información falsa puede pasar sin filtros de ningún tipo a la IA. Y de la IA, lógicamente, a los usuarios. Los temas de salud pueden ser especialmente delicados, pero no los únicos. Si la IA falla en ellos, ¿por qué no en los demás? Actualmente, no hay demasiados cortafuegos. O lo que es lo mismo: nadie vigila a la IA. Ni a sus alucinaciones.