Deepak Varuvel, experto en inteligencia artificial: "La IA es sorprendentemente ignorante, podríamos estar creando un colapso del conocimiento global"
Elígenos como tu fuente preferida en Google.
Varios expertos advierten que, mientras más se depende de la IA, más conocimiento de gran valor podría estar desapareciendo sin que la humanidad se dé cuenta.
Si bien es cierto que la inteligencia artificial se ha convertido en un lugar maravilloso de consulta gracias a todo el conocimiento que tiene y su forma de volcarte las respuestas que necesitas, paradójicamente parece que cada día saben menos de lo que crees.
Deepak Varuvel, investigador en ética y diseño responsable de IA, así lo explica en The Guardian: "La IA es sorprendentemente ignorante. Estamos a las puertas de un posible colapso del conocimiento global".
Tal y como explica, si la humanidad deja que los sistemas automáticos decidan qué información es válida y cuál no, se podría terminar empobreciendo nuestro propio entendimiento.
Explicado de forma simple, hay confianza casi absoluta en lo que chatbots como ChatGPT nos dice y, si la IA no conoce algo, para mucha gente ese algo simplemente deja de existir.
¿Por qué la humanidad está perdiendo tanto conocimiento sin darse cuenta?
El experto lo explica haciendo referencia a una historia personal. Comenta que, hace unos años, a su padre le detectaron un tumor en la lengua y los médicos recomendaron operarlo cuanto antes. Su hermana, médica formada en ciencia occidental, insistía en que era la única opción segura.
Pero sus padres, creyentes en la medicina tradicional de la India, querían probar un tratamiento herbal realizado por un vaithiyar, un sanador.
Deepak, intentando ayudar, hizo lo que haría cualquiera hoy: buscó en internet. Revisó todo lo que encontró, desde estudios médicos hasta foros con casos reales. Todo lo que encontró le llevaba a la operación como la mejor solución.
Finalmente, convencieron a su padre, pero él retrasó la operación en secreto y continuó con el tratamiento tradicional. Para sorpresa de todos, meses después el tumor desapareció.
Si bien es cierto que este hecho no hizo que Varuvel fuese un acérrimo defensor de estos métodos, sí que le abrió los ojos con respecto a un tema: cuánto conocimiento antiguo o local se descarta solo porque no están en internet. Y ya no hablamos de este tipo de remedios que entran en contraposición con la medicina.
Aquí hablamos de ese contenido que ya no se refleja en internet, fuente de información del mundo. Desaparece de aquí y, por lo tanto, desaparece del conocimiento humano. Este considera que con la IA podría pasar exactamente lo mismo.
Cuando la IA decide qué conocimiento se mantiene y cuál se pierde
Los modelos de IA como ChatGPT, Gemini o Claude aprenden de textos publicados en internet. El problema es que todos esos datos están llenos de sesgos y desigualdades.
El inglés representa casi la mitad del contenido del mundo, aunque lo hable menos del 20% de la población. En cambio, lenguas con millones de hablantes casi no aparecen.
Por ejemplo:
- Hindi, hablado por más de 600 millones de personas, representa solo el 0,2% de los datos.
- Tamil, lengua materna de Varuvel, con 86 millones de hablantes, apenas llega al 0,04%.
- El 97% de los idiomas del mundo están considerados de bajo recurso dentro de la informática.
Eso significa que muchas culturas prácticamente no existen para la inteligencia artificial. Y con ellas se pierde absolutamente todo lo relacionado con ellas.
De nuevo, no hablamos de que estas culturas no se pierdan, aunque también, si no de cómo actúa la IA con respecto al contenido con la que es educada y como nosotros acabamos nublando nuestro cerebro con la información que esta te da.
En muchas partes del mundo, la gente ya no pregunta a expertos reales ni a mayores con experiencia. Pregunta a un chatbot. Y si ese chatbot no tiene una respuesta, la conclusión automática es que ese conocimiento simplemente no sirve o no existe.
Lo que preocupa a los investigadores es que la humanidad depende cada vez más de una tecnología muy útil, pero que puede estar empobreciendo la capacidad humana de entender el mundo en su inmensa totalidad.
