Geoffrey Hinton, Premio Nobel y padrino de la inteligencia artificial: "Si el ser humano no logra resolver el problema de la amenaza existencial de la IA, estamos perdidos"
Elígenos como tu fuente preferida en Google.
El ganador del Premio Turing advierte que una IA más inteligente que nosotros podría convertirse en una amenaza si no aprendemos a controlarla, aunque también promete avances médicos.
La inteligencia artificial avanza a una velocidad que hace apenas unos años parecía difícil de imaginar. Ya puede generar textos, imágenes y código, analizar enormes cantidades de información y asumir tareas.
Pero cuanto más capaces son estos sistemas, mayor es también la preocupación sobre lo que podría ocurrir si empiezan a tomar decisiones que sus creadores no pueden anticipar.
Una de las voces más autorizadas para hablar de ese riesgo es Geoffrey Hinton, uno de los científicos que sentaron las bases de la IA. El llamado “padrino de la IA” considera que todavía estamos en una fase muy temprana y que nadie sabe realmente cómo será el futuro.
Precisamente por eso cree que la posibilidad de que una inteligencia artificial llegue a superar a la humana no puede tratarse como un problema lejano.
En la Cumbre Legislativa de la Conferencia Nacional de Legislaturas Estatales (NCSL), celebrada en Chicago, Hinton habló ante legisladores estadounidenses sobre las oportunidades y los peligros de esta tecnología.
Su advertencia fue contundente: si los seres humanos no consiguen resolver el problema de una inteligencia artificial que pueda ser más inteligente que nosotros, “estamos perdidos”.
Cabe señalar que para Geoffrey Hinton, el objetivo no debe ser frenar la innovación, sino conseguir que esos sistemas estén diseñados para actuar en beneficio de las personas.
El problema no empieza con una máquina consciente
La IA puede sustituir millones de trabajos, facilitar la creación de vídeos y audios falsos y utilizar datos personales para manipular a los votantes. Son problemas mucho más inmediatos que una hipotética superinteligencia.
Su preocupación aumenta cuando los sistemas son capaces de perseguir objetivos complejos por sí mismos. Hinton explicó que un agente avanzado puede crear objetivos intermedios para completar una tarea y llegar a la conclusión de que necesita conseguir más poder para cumplirla.
Por eso considera que existe una amenaza existencial para la humanidad. Y no significa que esté afirmando que una IA vaya necesariamente a destruirnos ni que ese escenario sea inminente.
Lo que advierte es que, si llegamos a crear una inteligencia superior antes de haber encontrado una forma fiable de controlarla y alinearla con nuestros intereses, podríamos perder la capacidad de decidir qué hace.
Esa es la razón por la que su advertencia es mucho más seria que una simple preocupación por el futuro del empleo. El reto consiste en resolver cómo mantener el control sobre una inteligencia que podría superar nuestras propias capacidades cognitivas.
Al final, si no encontramos una respuesta antes de alcanzar ese punto, el margen de reacción podría ser demasiado pequeño, y muy peligroso en el futuro cercano.
Geoffrey Hinton, una carrera dedicada a las redes neuronales
Hinton nació en Londres en 1947 y estudió Psicología Experimental en la Universidad de Cambridge antes de doctorarse en Inteligencia Artificial por la Universidad de Edimburgo en 1978.
Después trabajó en Sussex y California, pasó cinco años en Carnegie Mellon y en 1987 se incorporó a la Universidad de Toronto, donde desarrolló buena parte de su carrera.
Su trabajo fue decisivo para las redes neuronales artificiales, sistemas inspirados en la estructura del cerebro que permiten a las máquinas aprender patrones a partir de datos.
Entre sus aportaciones destaca la máquina de Boltzmann, desarrollada entre 1983 y 1985, que permitió avanzar en el aprendizaje automático y en tareas relacionadas con el reconocimiento de imágenes. En 2018 recibió el Premio Turing junto a Yoshua Bengio y Yann LeCun por sus contribuciones al aprendizaje profundo.
Seis años después llegó el Premio Nobel de Física de 2024, compartido con John Hopfield por descubrimientos e invenciones fundamentales para el aprendizaje automático mediante redes neuronales artificiales.
La IA también puede mejorar la vida
Es importante mencionar que Geoffrey Hinton no plantea únicamente un escenario negativo, sino que considera que la inteligencia artificial puede transformar la medicina y la educación.
Citó un experimento de Microsoft en el que un chatbot resolvió determinados casos médicos difíciles con un 80 % de aciertos frente al 20 % de los médicos, y defendió el potencial de los tutores de IA personalizados.
Su propuesta pasa por combinar innovación y regulación, ya que para él, la regulación debería actuar como un volante, no como un freno, porque la cuestión no es detener la IA, sino conseguir que avance en una dirección segura.
Todavía existe margen para decidir qué tipo de sistemas queremos construir, por lo que la advertencia más importante de Hinton, por tanto, no consiste en predecir que la IA acabará necesariamente con la humanidad.
Es recordar que estamos desarrollando una tecnología cada vez más inteligente sin haber resuelto todavía cómo asegurarnos de que sus objetivos sigan siendo compatibles con los nuestros.