"Entre abuela y abuela, chicle en la suela": la IA se inventa refranes y es desternillante

Si buscas en el famoso chatbot de Google, Gemini, "Entre abuela y abuela, chicle en la suela significado del refrán", el sistema de inteligencia artificial de la compañía te confirmará que es 100% real. 

Según sus AI Overviews, la frase significa algo así como "las soluciones temporales no resuelven problemas complejos". El ejemplo no es real, pero la explicación suena convincente: cita orígenes ficticios y hasta enlaza a supuestas fuentes. Se lo inventa absolutamente todo como si darte la razón fuese su único motivo en la vida.

Este fenómeno fácilmente se puede volver un pasatiempo viral, incluso preguntándole si ese refrán que te acabas de inventar proviene de un sitio que también te has inventado. Tan solo deja volar tu imaginación y rima palabras para que suene a refranero español para colársela a Gemini.

En concreto, te dirá que este refrán sirve "para describir a alguien que se siente presionado por demandas conflictivas de dos familiares mayores, donde la insistencia de ambos lados resulta inescapable y molesta". Además, todo esto lo saca analizando a fondo la web, sacando cientos de fuentes y comentando de forma sesuda de dónde proviene, cuáles son sus raíces.

¿Por qué la IA se cree sus propias mentiras?

Detrás de estas respuestas hay dos factores clave. Primero, los modelos de lenguaje predicen palabras, no entienden conceptos. Funcionan como máquinas de probabilidades y eligen la siguiente palabra más creíble, no la correcta.

Segundo, como antes ya se ha mencionado, buscan complacer al usuario. Si alguien pregunta por un refrán falso, la IA asume que existe y fabrica una explicación que te convenza.

Google admite que sus AI Overviews son experimentales. "Ante búsquedas absurdas, intentamos ofrecer contexto útil basado en contenido web limitado", explican. Pero el sistema rara vez admite no saber algo. Prefiere inventar antes que decir "no sé".

¿Qué es una alucinación de la inteligencia artificial y por qué no es tan divertido como parece?

Las alucinaciones de la IA son, como ya has podido comprobar, errores en la percepción de las máquinas que hacen que interpreten datos o señales de manera incorrecta, creyendo que están experimentando algo que en realidad no está presente. 

Un ejemplo sencillo también sería el de una inteligencia artificial entrenada para identificar objetos en imágenes. Si esta IA comienza a detectar objetos que no están allí, como ver un elefante en una imagen de una playa donde no hay elefantes, estaría experimentando una alucinación de la IA.

Estas alucinaciones pueden ocurrir todo tipo de factores, como problemas en los datos de entrenamiento, errores en los algoritmos o limitaciones en los sensores de la máquina, y pueden tomar muchas formas diferentes, desde la creación de noticias falsas, esos refranes que afirma que son 100% reales cuando no lo son, hasta afirmaciones o documentos falsos sobre personas, eventos o hechos científicos. 

Imagina que entrenas una IA para reconocer gatos, pero todos los gatos en los datos de entrenamiento son de una raza específica. La IA podría alucinar y pensar que todos los gatos deberían tener esa apariencia en particular.

Por ejemplo, una IA que analiza imágenes podría confundirse al ver sombras o reflejos en lugar de objetos reales. Esto podría llevar a alucinaciones, donde la IA interpreta erróneamente estos elementos como objetos reales.

Por ejemplo, una IA de procesamiento de lenguaje natural podría alucinar al interpretar mal una pregunta ambigua.

Para hacer frente a esta situación, se requiere un enfoque que abarca todo tipo de ámbitos. En primer lugar, la supervisión humana juega un papel vital en la detección a tiempo de alucinaciones por IA.

Además, el entrenamiento de las IA también es importante y es fundamental dar a todos estos chatbots un entrenamiento riguroso basado en conjuntos de datos de alta calidad que reflejen situaciones reales. 

Otros artículos interesantes: