¿Qué piensa la gente de la IA? Se puede medir y es un paso más hacia la catástrofe
Existen índices que miden la probabilidad de que ocurra una catástrofe si la IA se descontrola, algo sobre lo que han reflexionado expertos y científicos.
Para medir la probabilidad subjetiva de que la inteligencia artificial condene a la humanidad existe un índice basado en porcentajes, conocido como P(doom): es una variable subjetiva que utilizan científicos y expertos para medir la posibilidad de catástrofes.
A nivel general, existen 2 grandes modelos para medir los riesgos de la IA en relación a la existencia humana.
El primero, muy parecido a lo que se puede observar en películas de ciencia ficción como Terminator, se conoce como riesgo decisivo –catástrofe inminente–, con una súper inteligencia que escapa del control humano y es capaz de mejorar rápidamente de forma autónoma.
El segundo y no menos preocupante, el riesgo acumulativo –colapso lento–, un escenario en el que la IA desestabiliza instituciones de forma gradual; a pesar de que pueda parecer poco dañino, podría acabar en un riesgo sistémico.
A partir de estos 2 grandes modelos de estudio sobre riesgos, se desgranan muchas más aristas que ya han sido estudiadas por los expertos en IA, como pueden ser los de una guerra biológica, ciberataques automatizados o, directamente, la caída de sistemas económicos y políticos.
Con ellos, cada experto o científico especializado en IA cuenta con un porcentaje mayor o menor de los valores P(doom), algunos incluso rozando el 100%; o lo que es lo mismo, que el ser humano está condenado a la extinción.
Los padrinos de la IA, entre los más pesimistas
En una de las últimas investigaciones sobre este tema, publicada en la International Journal of Forecasting, se expresa la preocupación de científicos y filósofos sobre la afirmación de que el riesgo de extinción de la humanidad es más alto que en cualquier otro punto de la historia, la denominada como "hipótesis del siglo vulnerable".
Algunas de las personalidades más importantes que se sitúan en esta hipótesis son Geoffrey Hinton y Yoshua Bengio, ambos considerados como padrinos de la IA, gracias a su labor en el aprendizaje automático y las redes neuronales artificiales.
El propio Hinton, en muchas entrevistas, ha cambiado notablemente sus preocupaciones en relación a la IA: en algunas, ha asegurado que existe un 50/50 de probabilidades de un evento catastrófico, aunque durante las últimas ha reducido este a un 10%, considerando el P(doom).
Por su parte, Bengio sitúa este porcentaje en el 20%, ante las posibles decisiones de una IA autónoma: "Estamos creando una nueva forma de inteligencia en nuestro planeta sin saber si sus decisiones serán compatibles con nuestras necesidades".
Precisamente, en el mismo estudio de la revista enfocada en pronósticos para el futuro, se concluye que los especialistas en IA suelen ser más catastróficos en períodos más largos de tiempo, aunque no con la tecnología que existe en la actualidad.
Por tanto, el avance hacia una inteligencia artificial general –AGI, por sus siglas en inglés– es el escenario más temido por estos, entre los que se incluyen los padrinos de la IA ya mencionados.
Una pausa en la AGI, el reclamo de algunas organizaciones
Existen algunas organizaciones que exigen una pausa inmediata en la evolución hacia la AGI, por desconocer básicamente cuáles serían las consecuencias para la humanidad. En este extremo, aparece la organización PauseAI.
Está conformada por voluntarios y comunidades locales en base a una organización sin ánimo de lucro, con el objetivo de mitigar los riesgos de la IA –incluyendo la extinción humana– y convencer a los gobiernos para pausar el desarrollo de una súper inteligencia.
"La AGI no es inevitable. Requiere de hordas de ingenieros con sueldos millonarios", explican en su página. "Requiere de una cadena de suministro completamente funcional y sin restricciones al hardware más complejo. Requiere de que todos permitamos que estas empresas apuesten por nuestro futuro".
Entre los más catastrofistas, con un P(doom) cercano al 100%, aparecen nombres como el de Roman Yampolskiy, experto en seguridad de IA y director del Laboratorio de Ciberseguridad de la Universidad de Louisville.
Un escalón por debajo, con un porcentaje superior al 80%, aparece Dan Hendrycks, director del Center for AI Safety y consejero de xAI, la división en esta materia de Elon Musk, según compartió en su perfil de X.
Curiosamente, el fundador de Tesla y SpaceX, una de las figuras quizá más importantes en esta industria, no cree que el P(doom) se deba situar por encima del 20%, concordando con lo expresado por Geoffrey Hinton, según compartió en una entrevista con Peter H. Diamandis.
De esta forma, las opiniones están muy encontradas entre los expertos y científicos que impulsan esta nueva modalidad de IA. En cualquier caso, todos concuerdan en que existen peligros reales si se escapa totalmente al control humano, algo que nadie podría afirmar tajantemente a día de hoy.