La IA es tan humana como tú: tiene problemas con los idiomas y fuera de su lengua natal se vuelve torpe e ignorante
El 95 % de los modelos de lenguaje están entrenados en inglés, lo que reduce su eficacia en otros idiomas y afecta a los sistemas de IA encargados de moderar contenido en redes sociales.
La inteligencia artificial ha avanzado con una velocidad asombrosa que incluso es capaz de automatizar procesos, filtrar contenido y asistir en tareas cada vez más complejas. Pero tras esta aparente perfección se esconde una debilidad que no se menciona tanto.
Y es que fuera del inglés, su rendimiento cae en picado. En plataformas como Facebook, X o YouTube, los sistemas de moderación basados en IA cometen errores tan graves como censurar injustamente o dejar pasar discursos de odio solo porque no entienden otros lenguajes.
Aunque las redes sociales son espacios donde se publican millones de mensajes en decenas de lenguas cada minuto, los modelos de lenguaje que gestionan este flujo están entrenados, casi en exclusiva, en inglés.
Se estima que el 95% de los grandes LLM se construyen a partir de datos anglófonos, al final, esto crea una distorsión donde la IA funciona bien entendiendo sarcasmos en Nueva York, pero se pierde ante una expresión coloquial en Nairobi, Lima o Bangkok.
La consecuencia es que muchas publicaciones inofensivas acaban censuradas, mientras otras que contienen mensajes peligrosos —por su tono, contexto o referencias culturales— ni siquiera son detectadas, y de esto hay muchos reportes de usuarios en TikTok.
Y es que el sistema, simplemente, no está preparado para interpretar el mundo en toda su diversidad lingüística. Eso, en un entorno tan sensible como la moderación de contenido, es un problema que compromete la seguridad digital de millones de personas.
La IA no domina todos los idiomas por igual
El problema se agrava en regiones donde los idiomas minoritarios no cuentan con suficientes datos para entrenar modelos fiables. En África, partes de Asia o América Latina, muchos lenguajes están fuera del radar de las tecnológicas.
De esta manera, los modelos se alimentan de traducciones automáticas deficientes o de pequeños corpus que no representan bien el idioma real, lo que multiplica los errores. Las máquinas fallan más, no distinguen entre un chiste local y una amenaza real, y eso crea un entorno digital desigual.
Además, las grandes plataformas invierten desproporcionadamente más en moderar contenido en inglés. Aunque la mayoría de sus usuarios no se comunican en ese idioma, las herramientas que usan para moderar el contenido están diseñadas para un mundo que no es el suyo.
Resolver este desequilibrio requiere algo más que mejores algoritmos. Hace falta una decisión empresarial clara, como invertir en moderadores humanos, financiar la creación de conjuntos de datos de calidad en más idiomas y exigir mayor transparencia en el proceso de moderación.
Casos como el de Myanmar, donde el discurso de odio en birmano no fue detectado a tiempo por Facebook durante la crisis rohingya, o las protestas en Tailandia, con su lenguaje cifrado y metáforas culturales, evidencian el daño cultural y social que provoca esta deficiencia en los chatbots.
¿Qué lenguas entiende cada modelo? ¿Qué nivel de precisión ofrece en cada caso? ¿Cuándo entra en juego la supervisión humana? Sin duda alguna, las plataformas deberían responder a esas preguntas de forma pública.
En lugar de seguir reduciendo los equipos de moderación de contenido, las tecnológicas deberían reforzarlos. No es solo una cuestión de calidad técnica, sino de equidad digital. Para muchas comunidades, tener o no tener un moderador que entienda su idioma puede marcar la diferencia entre expresarse libremente o sufrir censura en redes sociales.
Una inteligencia artificial que aún no habla todos los idiomas
La IA no es neutral. Aunque se presente como una tecnología objetiva, lo cierto es que arrastra los sesgos de quienes la construyen. Y si esos sesgos giran en torno al inglés, se excluye a millones de personas que piensan, sienten y se expresan en otros idiomas.
Mientras las grandes tecnológicas no rompan con esa lógica anglocéntrica, la inteligencia artificial seguirá siendo una herramienta brillante… pero incapaz de entender a quienes no hablan su lengua nativa. En definitiva, la IA es tan humana que tiene sus límites, sus prejuicios y sus zonas oscuras.