Geoffrey Hinton, padre de la IA, descubre la pregunta que ChatGPT siempre responde mal: "Me sorprende que todavía lo fastidien"
Para el científico, aunque el chatbot de OpenAI es un modelo avanzado, aún comete errores en razonamientos básicos, lo que confirma que la IA sigue teniendo limitaciones.
La inteligencia artificial ha alcanzado un punto en el que puede resolver exámenes universitarios, escribir código o generar textos en cuestión de segundos. Sin embargo, incluso los modelos más avanzados, como ChatGPT, aún tropiezan con cuestiones sorprendentemente simples.
Geoffrey Hinton, considerado el padre de la IA, se ha encontrado recientemente con un ejemplo de estas limitaciones. Una pregunta sencilla que sigue desconcertando al chatbot de OpenAI, y que pone en evidencia hasta qué punto la perfección está aún lejos en este campo.
Hinton es una de las figuras clave que han hecho posible que la IA haya evolucionado tanto en los últimos años. Su trabajo en el desarrollo de redes neuronales ha sido fundamental para que hoy puedas interactuar con asistentes inteligentes, chatbots o sistemas de reconocimiento de voz.
No es casualidad que se le conozca como el padre de la inteligencia artificial, puesto que su investigación ha marcado el camino para toda la industria y, a día de hoy, sigue siendo un referente internacional cuando se habla de avances y riesgos asociados a estas tecnologías.
Una pregunta simple, una respuesta incorrecta
Durante una entrevista reciente, Geoffrey Hinton decidió poner a prueba la capacidad de razonamiento de ChatGPT. Le propuso un acertijo sencillo, el tipo de pregunta lógica que cualquier persona resolvería sin pensar demasiado:
"Sally tiene tres hermanos. Cada uno de sus hermanos tiene dos hermanas. ¿Cuántas hermanas tiene Sally?". La respuesta correcta es que Sally tiene una hermana —ella misma y otra hermana completan las dos que tienen sus hermanos—.
Sin embargo, ChatGPT respondió que eran dos, repitiendo un fallo que, según Hinton, no deja de sorprenderle: "Me sorprende que todavía lo fastidien".
Este error puede parecer menor, pero resulta llamativo porque la respuesta involucra un razonamiento básico, algo que se espera que una IA de este nivel resuelva sin dificultad. Revela que, aunque GPT-4 puede manejar temas complejos, su capacidad para razonar de manera estricta no siempre es fiable.
No es que ChatGPT no sepa contar. Lo que ocurre es que no "razona" como los humanos. Su estructura está basada en modelos de lenguaje entrenados para predecir la siguiente palabra más probable a partir de millones de ejemplos.
¿Por qué los chatbots fallan en preguntas tan básicas?
Aunque la inteligencia artificial ha avanzado mucho, sigue sin comprender el mundo como lo haría una persona. Los modelos como ChatGPT funcionan analizando grandes cantidades de texto y buscando patrones, pero no razonan ni entienden el contexto de la misma forma que tú lo harías.
Así, cuando se enfrentan a preguntas de lógica, a veces interpretan la información de manera superficial y se equivocan en el razonamiento más elemental.
Esto ocurre porque la IA no tiene sentido común ni experiencia real, su "sabiduría" se basa en lo que ha aprendido de los datos, pero carece de intuición humana. Por eso, aunque puede manejar cifras complejas, tropieza con preguntas sencillas si la interpretación no es literal o si el contexto le resulta ambiguo.
La advertencia de Geoffrey Hinton es clara, incluso los expertos pueden caer en la trampa de dar por buenas las respuestas de la IA solo porque proceden de una máquina avanzada. El propio Hinton reconoce que a veces tiende a confiar en el chatbot más de lo que debería, aunque sabe que todavía está lejos de ser infalible.
Esta tendencia a delegar el juicio en una herramienta tecnológica puede llevar a errores importantes, especialmente si se utilizan chatbots en entornos profesionales, educativos o en la toma de decisiones.
Por esta razón, es fundamental mantener una actitud crítica y no perder de vista que la inteligencia artificial, por mucho que impresione o más avanzada que esté, con nuevas funciones y herramientas, sigue necesitando supervisión y criterio humano.
¿Qué podemos esperar de los próximos modelos de IA?
El padre de la IA mantiene la esperanza de que futuras iteraciones de la IA superen estas limitaciones. Confía en que modelos como GPT-5 corregirán errores de razonamiento como el del acertijo, perfeccionando su capacidad para procesar la lógica y ofrecer respuestas más fiables.
Paralelamente, se trabaja en mejorar aspectos técnicos, como la comprensión contextual y la eficiencia del procesamiento, que permitirán un uso más seguro y efectivo de estas tecnologías.
Sin embargo, Hinton también enfatiza la necesidad de mantener una actitud crítica ante los avances. La IA, aunque poderosa, no es infalible, y es importante entender sus alcances y limitaciones para evitar malentendidos o dependencias erróneas.