Geoffrey Hinton, padre de la IA, confiesa que tiene un serio problema que tú deberías evitar: "Confío demasiado en ella"
El ganador del Premio Nobel de Física reconoce confiar demasiado en el chatbot de OpenAI, a pesar de sus limitaciones, y sostiene que es un error que todos deberíamos evitar.
A pesar de haber sido uno de los grandes impulsores del aprendizaje profundo, Geoffrey Hinton ha reconocido públicamente que tiene un hábito preocupante, y es que afirma que confía demasiado en los modelos de inteligencia artificial, sobre todo en el chatbot de Sam Altman.
Y aunque sus declaraciones suenen contradictorio, es precisamente esta paradoja la que debería hacer reflexionar a todas las personas que utilizan esta tecnología en su día a día. Porque si alguien que conoce los entresijos de la IA cae en esa trampa, cualquiera puede hacerlo.
Durante años, Hinton ha alertado sobre los riesgos de la IA generativa, desde su posible impacto en el empleo hasta las amenazas que plantea su uso indiscriminado. Pero ahora ha confesado que utiliza ChatGPT todos los días, y que tiende a dar por buenas sus respuestas, incluso cuando debería cuestionarlas.
En sus propias palabras, "Tiendo a creer lo que dice, aunque probablemente debería sospechar". Cabe señalar que sus declaraciones ilustran un problema que va en aumento, donde estamos rodeados de asistentes virtuales cada vez más capaces, pero eso no significa que sean siempre fiables.
La IA no es infalible y a veces se equivoca en lo más básico
Durante una entrevista para el medio CBS, el padre de la IA planteó a GPT-4 un acertijo sencillo, de los que podrías encontrar en cualquier lugar de internet. La pregunta era: "Sally tiene tres hermanos. Cada uno de sus hermanos tiene dos hermanas. ¿Cuántas hermanas tiene Sally?"
La lógica indica que la respuesta correcta es una, ya que Sally es una de las dos hermanas. Sin embargo, el modelo respondió dos. Un error básico, pero que revela que el chatbot no es perfecto en algo que parece tan fácil para nosotros: "Me sorprende que todavía la fastidien", reconoció Hinton.
Esto puso en evidencia que, aunque los modelos como GPT-4 son capaces de redactar ensayos, programar código o traducir textos, siguen fallando en razonamientos simples. Una combinación con errores básicos es lo que los hace tan peligrosos cuando los usamos sin cuestionarlos.
Investigaciones recientes indican que pedir respuestas breves a los chatbots aumenta la probabilidad de que estos "alucinen", es decir, inventen información o cometan errores. Por ello, es fundamental que se utilice con precaución, contrastando siempre los resultados y evitando depender completamente de sus respuestas.
El problema no es la IA
Geoffrey Hinton asegura que la confianza ciega es el verdadero peligro para todos los que utilizan los chatbots, porque una herramienta como ChatGPT puede ayudarte a escribir, programar o resolver dudas, pero no debe sustituir tu propio juicio.
Es decir, tú debes decidir cuándo confiar, cuándo comprobar o cuándo corregir, y es que la inteligencia artificial no lo hará por ti. Por ende, cuanto más automatices esa confianza, más riesgo tienes de caer en errores que podrían haberse evitado con una simple comprobación.
El problema no es que GPT-4 fallara, sino que la tendencia humana a asumir que un sistema que habla con naturalidad también piensa con precisión. Y no es así. Ni este ni otro chatbot comprenden el mundo como los humanos, solo generan texto a partir de patrones estadísticos.
Significa que pueden equivocarse y, si no estás atento, puedes equivocarte con ellos. Cabe señalar que este no es un argumento contra la IA, sino contra su uso acrítico. Porque no importa lo avanzado que sea un modelo de lenguaje, siempre debe usarse con criterio. Y si alguien como Hinton puede equivocarse, cualquiera puede hacerlo.
Para entender por qué sus palabras importan, hay que saber quién es Geoffrey Hinton. Considerado el padre del deep learning, fue uno de los pioneros en el desarrollo de las redes neuronales artificiales. Sus trabajos sentaron las bases de los sistemas que hoy dan vida a asistentes virtuales, traductores automáticos y modelos como ChatGPT.
En 2024, recibió el Premio Nobel de Física por su papel clave en el avance del aprendizaje automático. Ha trabajado en Google, ha enseñado en la Universidad de Toronto y ha sido mentor de generaciones de investigadores en inteligencia artificial, por lo que pocas voces tienen tanto peso en este campo como la suya.
Es por esta razón que, cuando él mismo te dice que se fía demasiado de un chatbot, y de que hacerlo es un error, conviene escuchar el mensaje. No se trata de desconfiar de la tecnología, sino de no delegar en ella todo tu pensamiento, sobre todo porque la inteligencia artificial ha llegado para quedarse, pero la inteligencia crítica sigue siendo cosa tuya.