Geoffrey Hinton, padre de la IA, lanza una alerta: "Será experta en manipularnos, y deberíamos preocuparnos"
El ganador del Nobel de Física en 2024 advierte que la IA podría convertirse en una experta manipuladora, capaz de influir en nuestras decisiones.
La tecnología detrás de chatbots tan famosos como ChatGPT o Gemini no cabe duda de que está avanzando a una velocidad que ni sus propios creadores imaginaban, y Geoffrey Hinton, considerado el 'padrino de la IA moderna', vuelve, una vez más, a mostrar su gran preocupación.
Si bien es cierto que en la comunidad tecnológica se le considera una persona bastante miedosa, escéptica y que prefiere ir un paso por detrás, no se puede negar que la actualidad relacionada con la inteligencia artificial, en ocasiones, da pie a este tipo de pensamientos.
En concreto, y recogiendo sus últimas declaraciones, el científico advierte que esta tecnología no solo será capaz de realizar tareas de gran calado, sino que podría convertirse en una experta manipuladora, capaz de influir en tus decisiones y pensamientos. La base es que se convertirá en algo más inteligente que el humano y, por lo tanto, podría no tener muy buenas intenciones de cara a ellos.
Hinton, quien comentar que dedicó décadas a desarrollar las redes neuronales que dieron forma a la IA actual, ha pasado de ser uno de sus mayores impulsores a convertirse en una voz crítica.
En una entrevista reciente para CBS, el ganador del Nobel de Física en 2024 explicó cómo la IA podría usar todo el conocimiento humano —desde novelas hasta estrategias políticas— para aprender a persuadirnos.
"Podrán manipular a las personas porque habrán aprendido de todas las novelas escritas, de todos los libros de Maquiavelo y de todas las connivencias políticas. Sabrán cómo hacerlo", comentaba.
Una gran amenaza que ya comienza a tomar forma: una IA demasiado inteligente
Aquí el problema no radica solo en lo que la IA puede hacer hoy, sino en lo que podría lograr mañana. Según Hinton, la humanidad está entrando en un periodo donde podría enfrentarse a algo más inteligente que ellos mismos por primera vez en la historia. Y lo más preocupante es que estas máquinas podrían escapar del control humano. "Una manera en que estos sistemas podrían hacerlo es escribiendo su propio código para modificarse. Eso debería preocuparnos seriamente", explica.
Advierte que gobiernos autoritarios podrían usar estas herramientas para influir en las masas con información falsa y discursos persuasivos. "Internet ya está lleno de fotos, vídeos y textos falsos que un usuario promedio no puede distinguir. La combinación entre chatbots inteligentes y actores malintencionados es aterradora", añade.
Otros expertos como Yoshua Bengio y Max Tegmark, pese a considerarse más positivos, lo cierto es que comparten estas dudas y miedos. Ambos han advertido que la humanidad está creando una forma de inteligencia sin saber si sus decisiones serán compatibles con las necesidades humanas. "Estamos jugando con fuego", dijo Tegmark en un pódcast.
Esta es la gran pregunta y Hinton ha sido claro: se necesita una regulación urgente para evitar los riesgos asociados con la IA avanzada. En marzo de 2024, más de 1.000 expertos firmaron una carta pidiendo detener temporalmente el entrenamiento de sistemas avanzados para evaluar los peligros potenciales.
Entre aquellos que firmaron estaban figuras como Elon Musk y Steve Wozniak, quienes también han comentado al mundo sus preocupaciones sobre el impacto social y ético de estas tecnologías.
Sin embargo, Hinton fue de los pocos que no estuvo demasiado de acuerdo con esta propuesta: "No creo que podamos detener el progreso. Si Estados Unidos deja de trabajar en IA, China no lo hará". Sin ir más lejos, tan solo hay que ver lo ocurrido con DeepSeek. Para él, la solución pasa por una lucha global para establecer límites claros sobre qué puede hacer la inteligencia artificial y cómo debe ser utilizada.
Los chatbots ya comienzan a formar parte de la vida emocional de muchos
Todo esto tiene relación con otros datos e informes que han salido a la luz recientemente. Un ejemplo claro es el uso de chatbots como Replika o Character.AI para aliviar la soledad. Aunque pueden ofrecer compañía temporal, estudios muestran que también generan dependencia y aislamiento social.
Un estudio de OpenAI analizó más de cuatro millones de conversaciones en las que se mostraban señales afectivas o emociones y encuestó a 4.000 usuarios. Los resultados son claros: el 23% de quienes usan chatbots a diario desarrollan dependencia emocional, mientras que el 15% admite preferir hablar con IA antes que con seres humanos.
El mismo estudio revela que el 8% de los usuarios intensivos que hacen un uso de más de 27 minutos diarios muestran señales de aislamiento social.
Por otro lado, y aunque el 60% de los usuarios reportan menos estrés al compartir problemas con chatbots, la dependencia tiene un coste que puede salir muy caro y, lo peor de todo, que se mantiene invisible.
Por ejemplo, el 30% admite enfadarse cuando la IA no entiende sus emociones complejas. Quienes usan chatbots más de 20 minutos al día reducen un 18% sus interacciones cara a cara. Yendo a un extremo, en Corea del Sur, un hombre se quitó la vida tras la 'ruptura' con su chatbot romántico, según un caso documentado en 2024.
El mensaje principal de Hinton es claro: necesitamos actuar antes de que sea demasiado tarde. La inteligencia artificial tiene el potencial de cambiar a mejor nuestras vidas si se utiliza correctamente y con ciertos límites. Pero también puede convertirse en todo lo contrario y pasar de la oportunidad y mejora como seres humanos a un grave problema social.
