Geoffrey Hinton, Premio Nobel de Física: "Me fui de Google para hablar de los peligros de la IA antes de que sea más lista que nosotros"
Elígenos como tu fuente preferida en Google.
Las imágenes falsas y la pérdida de empleos están entre los temores de Hinton, padrino de la inteligencia artificial y premio Nobel, pero también le preocupa que la IA avance hasta un punto en el que los humanos ya no puedan controlarla.
La inteligencia artificial ya era capaz en 2023 de generar textos, responder preguntas y ayudar en tareas cada vez más variadas. Google formaba parte de esa expansión y aquel año abrió el acceso inicial a Bard, su asistente generativo, en un momento en el que estas herramientas empezaban a llegar a cada vez más usuarios. Pocas semanas después, Geoffrey Hinton hizo pública su salida de Google. El investigador, que en 2024 recibiría el Nobel de Física junto a John Hopfield, explicó que quería poder hablar con libertad sobre los riesgos de una tecnología a cuyo desarrollo había contribuido durante décadas.
Hinton aclaró que la compañía había actuado de forma responsable y que no se marchaba para atacarla, sino que su preocupación iba más allá. Le inquietaban las falsificaciones generadas por IA, los posibles efectos sobre el empleo y la dificultad de mantener bajo control sistemas mucho más capaces en el futuro.
Hinton temía que distinguir lo verdadero de lo falso fuese cada vez más difícil
Uno de los riesgos que señaló era la facilidad con la que la IA generativa puede producir textos e imágenes convincentes. No hace falta que un sistema sea más inteligente que una persona en todos los sentidos para causar problemas si permite fabricar contenidos falsos a gran escala y hacerlos pasar por auténticos.
La consecuencia afecta directamente a la confianza en la información, ya que cuanto más realista resulta el contenido artificial, más difícil puede ser identificar qué procede de una fuente auténtica y qué ha sido creado para engañar.
Geoffrey Hinton también advertía de cambios en el mercado laboral, donde consideraba posible que estas herramientas acabasen realizando tareas que hasta entonces correspondían a personas, aunque no estableció una cifra concreta de empleos que pudieran desaparecer.
Durante años, el padre de la IA había situado la posibilidad de una inteligencia artificial ampliamente más capaz que los humanos a varias décadas de distancia. En 2023 reconoció que había cambiado de opinión y que ese escenario podía llegar antes de lo que había imaginado.
Eso no equivale a fijar una fecha, y tampoco es lo mismo que una IA supere a una persona en una tarea concreta, como reconocer determinados patrones, a que alcance capacidades intelectuales superiores en numerosos ámbitos.
En declaraciones recogidas por The New York Times, Hinton defendió que los científicos deberían asegurarse de poder mantener el control de la IA antes de seguir expandiendo sistemas cada vez más potentes.
En este contexto, controlar significa poder establecer límites, supervisar su comportamiento, así como intervenir cuando se aparten de los objetivos previstos.
La advertencia viene de uno de los expertos que ayudaron a construir las redes neuronales
Cabe señalar que Geoffrey Hinton es una de las figuras fundamentales del desarrollo de las redes neuronales y el aprendizaje automático. Estos modelos aprenden patrones ajustando una gran cantidad de conexiones internas a partir de datos, una idea que terminó convirtiéndose en una de las bases de la IA actual.
Su trabajo recibió un reconocimiento especial en 2024, cuando compartió el Nobel de Física con John Hopfield por aportaciones fundamentales al aprendizaje automático mediante redes neuronales.
Es importante mencionar que su advertencia no asegura que ese escenario vaya a producirse, pero plantea una cuestión que sigue abierta: cuanto más capaces sean estos modelos de IA, mayor será la necesidad de estudiar sus límites antes de ampliar su presencia en tareas cada vez más importantes.