La IA se equivoca y confunde una imagen de la Málaga del año 1952 con una de Estados Unidos

A día de hoy, que la inteligencia artificial ya está en todos los lados, resulta lógico que muchos usuarios recurran a ella para resolver dudas o incluso verificar datos. Pero, hay que comentar que no, la IA no es 100% infalible. Y eso ha quedado bastante claro cuando Grok, el chatbot de Elon Musk que funciona en X, tuvo un gran lapsus por culpa de una foto que confundió por completo.

La imagen mostraba a una familia dentro de una casa sencilla, una escena que, de forma bastante fiel, reflejaba lo realmente dura que fue la posguerra española. 

Sin embargo, Grok insistió en que la foto pertenecía a los Ozarks en Arkansas, Estados Unidos, tomada durante la Gran Depresión en 1935. 

Con más tres millones de visualizaciones, los usuarios directamente empezaron a alucinar con su respuesta. Lo más llamativo de todo es que no se entendía demasiado bien por qué Grok se negaba a cambiar de versión.

Es por eso que una usuaria que se identifica como historiadora decidió intervenir. Gracias a herramientas como Google Lens pudo localizar rápidamente la foto original en el Archivo Histórico Fotográfico de la Universidad de Málaga, donde estaba fechada en agosto de 1952, justo en la España franquista.

Con todas estas pruebas, intentó de nuevo convencer a la IA de que se estaba equivocando por completo, pero Grok se mantuvo en su postura, ya rodando el punto de cabezota, comentando que se estaba equivocando. Solo después de un par de horas y tras varias interacciones, el asistente virtual dio el brazo a torcer y admitió que la foto era efectivamente de Málaga y no de Estados Unidos.

No cabe duda que, viendo este tipo de respuestas, el ser humano sigue siendo insustituible. El factor humano sigue siendo muy importante, sobre todo en áreas tan delicadas y complicadas como la historia o el periodismo. 

La IA es una herramienta que debe complementar, no sustituir, el análisis crítico y riguroso que solo las personas pueden aportar. 

Una de las grandes figuras de Microsoft echa el freno a la locura de la IA en la programación: "Es muy poco fiable"

Esto es algo que afecta a nivel general. Sí, la IA se equivoca mucho y hay que tener cuidado con lo que haces con ella. Y si no, que se lo digan a los programadores. Si estás metido en el mundo de la tecnología o simplemente has escuchado hablar de cómo la inteligencia artificial está cambiando el trabajo, seguro que has oído hablar de esas herramientas que prometen escribir código por ti. 

Herramientas como GitHub Copilot, ChatGPT o las que Microsoft y Google están desarrollando, que pueden generar líneas de código con solo pedirlo. 

Si bien son realmente top y ya se ha demostrado que ahorran horas de tiempo, la realidad es un poco más complicada, y uno de los pesos pesados de Microsoft, Mark Russinovich, lo deja claro: "La IA todavía no está lista para reemplazar a los programadores en proyectos complejos".

¿Qué es Codex y por qué esta IA de OpenAI podría ser el fin de los programadores humanos?

En concreto, explicó que, aunque estas herramientas son muy útiles para cosas sencillas, cuando el proyecto se complica y hay que coordinar cientos de archivos y módulos, la IA se pierde. "Los sistemas actuales no entienden bien cómo se relacionan las diferentes partes del código, y eso genera errores que solo un humano puede detectar y corregir", comenta.

Todo esto significa que, por mucho que la IA avance, el trabajo del programador no va a desaparecer, al menos no en el corto y medio plazo. "La IA será una ayuda, un copiloto, pero el piloto seguirá siendo el humano", insiste Russinovich. 

Y eso es justo lo que Microsoft quiere con su GitHub Copilot: que la IA ayude a escribir código, pero que el programador mantenga el control, tome las decisiones difíciles y supervise todo.

Como ya se ha mencionado en otras ocasiones, programar no es solo escribir líneas de código que funcionen; es entender el contexto, anticipar problemas, negociar requisitos, tomar decisiones de arquitectura y, sobre todo, depurar y mantener sistemas vivos y que cambian casi cada mes. 

Además, este de nuevo pone sobre la mesa los grandes problemas de fiabilidad de esta tecnología. "La IA es muy poco fiable. A veces da respuestas incorrectas o inventa datos. Por eso, es muy necesario controlar lo que entra en el modelo y verificar lo que sale", explica.

Otros artículos interesantes: