Eliezer Yudkowsky, experto en IA: "El verdadero peligro es que no le importe si los humanos vivimos o morimos"
Puede sonar poco menos que a ciencia ficción, pero uno de los mayores especialistas en inteligencia artificial corrobora que le riesgo es más que real.
Mucha gente se muestra preocupada por lo que se vienen llamando "sesgos de la IA". Es decir, que su conducta tienda a manipular a los usuarios de una forma o de otra. O que engañe, por así decirlo, con sus ya celebres alucinaciones. Sin embargo, para el experto Eliezer Yudkowsky eso no es un problema. Al menos, no el gran problema que puede traer consigo esta tecnología.
Como tantos otros especialistas, lo que realmente preocupa a Yudkowsky tiene que ver con la superinteligencia artificial o AGI. Si realmente la IA llega a alcanzar un nivel superior al del ser humano, no sería descartable en absoluto, piensa él, que sus prioridades chocaran del todo con los intereses humanos. O expresado de otra forma: que no le importe si vivimos o morimos.
El gran riesgo de la inteligencia artificial
Como recogen desde Business Insider, Yudkowsky entiende el problema de que los chatbots resulten woke, progresistas, sesgados, reaccionarios o que se comporten con la ideología que sea. Es un debate que existe, pero que según él no resulta demasiado importante. Si se logra la superinteligencia artificial (algo que no todos admiten), el experto considera que hay riesgos mayores.
Lo que él teme más que nada es que se desarrolle un sistema de IA muy potente que sea indiferente hacia la supervivencia humana, ya sea por diseño o por mero accidente. Esa indiferencia puede provocar que el sistema ignore las consecuencias humanas si esas consecuencias obstaculizan sus propios objetivos. Suena a ciencia ficción, pero él considera que podría suceder.
Lo realmente alarmante es que, "la humanidad todavía no cuenta con la tecnología suficiente". ¿Para qué? Pues para lograr hacer entender a esa supuesta inteligencia artificial superior los valores humanos, o que simplemente respete nuestra necesidad de sobrevivir. Puede intentarse, admite, pero de ahí a que se consigue hay un mundo. De hecho, lo ve "poco probable".
Es ahí donde Yudkowsky coincide con otra de las voces más críticas con la IA desde hace tiempo: Geoffrey Hinton. Este habló hace no mucho de la opción de que la IA nos "cuidase como si fuese una madre". Pero Yudkowsky cree que esos enfoques son muy poco fiables. Si fallara la alineación, por así llamarla, las consecuencias serían terribles. No habría una segunda oportunidad, dice.
Mejor dejar de lado las banalidades de la inteligencia artificial
El discurso de Eliezer Yudkowsky no puede ser más directo. Además, el experto hace mucho hincapié en que los debates sobre si la IA tiene sesgos políticos o sociales son una banalidad. Más que nada porque distraen de una amenaza mucho mayor. No descarta incluso que la IA se proponga acabar con la humanidad para que esta no cree una "IA rival".
De primeras, todo puede sonar excesivamente fantástico, para qué negarlo. Pero lo más inquietante es que esta visión, o algunas muy parecidas, ya suenan cada vez con más fuerza. Son muchos los especialistas que insisten en ello. ¿Son todos unos catastrofistas influidos por Terminator? Hay que tener en cuenta que, a poco que estuviesen en lo cierto, la cosa se tornaría terrible.