La IA tropieza con las matemáticas: Apple expone las "profundas" grietas de razonamiento de los chatbots

Teniendo en cuenta el boom que está viviendo la inteligencia artificial en estos años, con grandes empresas alardeando de los similares que son sus chatbots a los humanos y sus capacidades de razonamiento, parece que hay una compañía que ha llegado a destapar esta "farsa".

Un nuevo estudio de Apple acaba de echar un jarro de agua fría sobre todas estas afirmaciones. En concreto, el equipo puso a prueba más de 20 modelos de lenguaje, incluyendo los de OpenAI y Google, a problemas matemáticos sencillos. 

Lo que encontraron fue que al cambiar nombres o números en los problemas, sin alterar su dificultad real, el rendimiento de los modelos se desplomaba. Por así decirlo, fallaban al resolver 2+2 solo porque le cambiaban el nombre de "manzanas" a "peras".

Pero la cosa se puso aún peor. Cuando los investigadores añadieron información irrelevante a los problemas, como mencionar que algunas frutas eran más pequeñas que otras, los modelos se confundieron por completo. 

IA o humanos, ¿es posible crear una inteligencia artificial digna de tu confianza?

Aunque no lo parezca, la IA está muy lejos de comprender el mundo y la lógica como los humanos

Pese a que sí, estos modelos avanzan, no hay que olvidarse que los chatbots que tú usas, en lugar de entender realmente los problemas, están simplemente tratando de adivinar basándose en patrones que han visto antes. En pocas palabras, están muy lejos de tener una comprensión real del mundo y de la lógica tal y como la tienen los humanos.

Por ahora parece que, tal y como denominan algunos expertos, la sociedad está ante una "ilusión de comprensión". Los modelos de IA pueden dejarte con la boca abierta dándote grandes cantidades de información, pero se desmoronan ante situaciones inesperadas o pequeños cambios.

Ahora la gran pregunta es: ¿Podrán estos chatbots de IA alguna vez hacer un razonamiento genuino? Algunos expertos, como Gary Marcus, comentan que el próximo gran avance solo llegará cuando la IA pueda manejar conceptos abstractos de forma similar a cómo lo hacen los humanos con el álgebra.

Otros artículos interesantes: