Geoffrey Hinton, padre de la IA, advierte: "Podría desarrollar su propio lenguaje, ajeno a la humanidad"
¿Podría la inteligencia artificial crear un idioma propio? Uno de los principales expertos en esta tecnología cree que sí, y podría ser el primer paso de algo peor.
Para muchos, Geoffrey Hinton es algo así como el padre de la IA moderna. Antes de ChatGPT o cualquiera de las herramientas actuales, allá por los años 70, este científico ya era una eminencia en todo lo relacionado con la inteligencia artificial. Algo que, de un tiempo a esta parte, el propio experto parece lamentar. Hace apenas una semana entonó el mea culpa de manera pública.
Ahora, Geoffrey Hinton es una de las voces más críticas con respecto a esta tecnología. A sus 75 años, no se cansa a la hora de advertir de los riesgos que pueden estar a la vuelta de la esquina, sobre todo si no se toman las medidas de seguridad pertinentes, y que suenan casi a película de ciencia ficción. En esta ocasión, ha hablado de una nueva amenaza: un lenguaje propio.
Geoffrey Hinton y el propio idioma de la IA
Durante años, los aficionados a la ciencia ficción han escuchado hablar a robots y máquinas en su propio idioma. En inglés, quizá, en el caso de aquellos que disfrutan viendo las películas en versión original. Sin embargo, si se diera la circunstancia, ¿qué idioma podría utilizar la inteligencia artificial para comunicarse con ella misma? Geoffrey Hinton tiene dudas.
O mejor dicho, miedos. ¿Podría la IA ser capaz de desarrollar un lenguaje propio completamente ajeno a cualquier conocimiento humano? El célebre ex trabajador de Google opina que no es descabellado, y sí sumamente peligroso. "No me sorprendería que desarrollaran un idioma para pensar", ha comentado recientemente, añadiendo un riesgo más a su lista de peligros.
¿Y qué sucedería si algo así se convirtiera en realidad? Para Hinton, las consecuencias están claras: "No tendríamos ni idea de lo que está pasando". Nada bueno, se entiende, puesto que el especialista en IA lleva mucho tiempo advirtiendo de que la posibilidad de que esta tecnología se rebele no es ni mucho menos fantasía. O que tome de alguna forma conciencia de sí misma.
Si esto sucediera, es muy probable que crear un lenguaje propio para que los supervisores humanos no se enteraran de nada fuese un primer paso lógico. Y también puede que para entonces ya no hubiese vuelta atrás, según el pensamiento de Geoffrey Hinton. De hecho, incluso Sam Altman, creador de GPT, ha reconocido que no existe ningún "botón rojo" para desconectar la IA.
Perdidos en la traducción
Si en un futuro se piensa que la inteligencia artificial podría tener su propio lenguaje, es probable que mucha gente se pregunte, ¿entonces cómo "piensa" ahora? Actualmente, la mayoría de modelos de lenguaje operan con lo que se conoce como razonamiento en cadena de pensamiento (chain of thought) en inglés, lo cual permite a los desarrolladores rastrear su lógica.
Sin embargo, Hinton advierte que este control podría perderse si las IA empiezan a comunicarse de forma autónoma fuera de cualquier lenguaje humano reconocible. Claro, que para ello habría que reconocer primero que esta tecnología es capaz de pensar como tal, algo que muchos expertos se niegan en rotundo a admitir. Quién tiene razón y quién no, solo el tiempo lo dirá.