El Premio Nobel John Hopfield advierte sobre escenarios catastróficos de la IA: "Me inquieta mucho algo que no tiene control"
El físico estadounidense alerta de que la inteligencia artificial avanza más rápido de lo que la ciencia puede entender, lo que podría ser peligroso si no se establecen límites.
Cada vez que conversas con un chatbot, generas imágenes con unas pocas palabras o automatizas tareas que antes llevaban horas, estás utilizando herramientas de IA que hace apenas unos años parecían ciencia ficción.
Y es que esta tecnología está transformando tu forma de trabajar, estudiar, crear contenido o gestionar tu día a día, por lo que su impacto en sectores como la medicina, la ingeniería o la educación está siendo notable, y su adopción se extiende a un ritmo difícil de seguir.
Pero ese mismo avance tan impresionante empieza a generar preocupación entre algunos de los científicos que, desde hace décadas, contribuyeron a sentar las bases de la inteligencia artificial actual.
Uno de ellos es John Hopfield, físico y experto en redes neuronales, que ha lanzado una advertencia clara: no se trata de detener el desarrollo de la IA, sino de entender sus riesgos antes de que sea demasiado tarde. Según él, hay capacidades que están creciendo sin control, y eso podría derivar en consecuencias difíciles de revertir.
Esta persona es el creador del modelo conocido como "red de Hopfield", una estructura matemática que permitió que las redes neuronales artificiales comenzaran a simular procesos propios del cerebro humano, como el almacenamiento y recuperación de recuerdos.
Cabe señalar que este trabajo fue tan relevante que le valió ganar el Premio Nobel de Física en 2024, compartido con Geoffrey Hinton, otro pionero en el campo. A lo largo de su carrera, Hopfield ha combinado conocimientos de física, biología y computación para contribuir a una tecnología que ahora está en el centro de la conversación global.
Es por esta razón que, cuando lanza una advertencia pública, no lo hace desde la distancia, sino como alguien que conoce en profundidad lo que hay detrás de esos sistemas que hoy generan textos, imágenes o decisiones.
Chatbots útiles, algoritmos brillantes y un futuro incierto
La IA está demostrando ser una herramienta muy valiosa, como chatbots capaces de mantener conversaciones, asistentes virtuales que resumen reuniones, motores que detectan enfermedades a partir de imágenes médicas o sistemas que automatizan el análisis de datos en tiempo récord. Sus aplicaciones son cada vez más sofisticadas y su uso se ha normalizado incluso en tareas cotidianas.
Pero no todo es positivo, puesto que las mismas herramientas que puedes usar para escribir un texto o crear una presentación también están siendo utilizadas para difundir noticias falsas, generar contenido fraudulento o manipular información personal.
Y lo que preocupa a Hopfield no es solo ese mal uso de esta tecnología, sino el hecho de que los propios programadores de estos sistemas no entienden del todo cómo se comportan sus modelos más complejos. El problema, en su opinión, no es la inteligencia artificial como tal, sino la falta de comprensión y control sobre ella.
El científico ha dejado claro que el avance de la IA está superando la capacidad de la ciencia para supervisarla. Lo explica con una metáfora literaria: el Hielo-9 de Cat’s Cradle, una sustancia ficticia creada para resolver un problema concreto, pero que acaba destruyendo el planeta.
Según él, la IA podría ser ese tipo de tecnología, diseñada con buenos fines, pero capaz de provocar una catástrofe si se descontrola. Entre los riesgos que menciona se encuentran sistemas que toman decisiones sin supervisión humana y actúan en entornos donde no se entienden sus motivaciones.
Herramientas automatizadas que generan ciberataques, manipulan mercados o se integran en armas sin control político ni ético. Pérdida de control sobre infraestructuras críticas si son gestionadas por algoritmos que no se comportan como se espera y uso de IA para influencia política a través de desinformación a gran escala.
Todo esto, advierte, no es una hipótesis, porque ya existen ejemplos preocupantes, y el ritmo de desarrollo de estos modelos no se está acompañando con una reflexión seria sobre sus límites. Afirma que no se trata de frenar el desarrollo, sino de invertir tanto en seguridad como en supervisión.
Hopfield ha pedido que los gobiernos apoyen a los investigadores que se centran en los riesgos de la IA y que faciliten el acceso a recursos computacionales para quienes trabajan en su regulación y análisis.
Más investigación, más control y mayor responsabilidad
También plantea que las grandes tecnológicas no pueden seguir desarrollando estos modelos sin rendir cuentas. Deberían colaborar con las instituciones públicas y permitir que la comunidad científica independiente acceda a sus sistemas para auditarlos y entender sus implicaciones reales.
Además, hace un llamamiento a los jóvenes investigadores, en el que declara que en lugar de centrarse solo en mejorar la eficiencia o el rendimiento de los modelos, deberían enfocar sus esfuerzos en entender qué límites no deben cruzarse.
El verdadero riesgo, según John Hopfield, no es la inteligencia artificial como herramienta, sino el hecho de que la estemos utilizando sin entender del todo cómo funciona. Por eso, la pregunta que lanza es, ¿podremos controlar algo que ya nos supera en muchos aspectos si no actuamos ahora?