La superinteligencia artificial debería superar pruebas de seguridad similares a las de la bomba nuclear, los expertos temen una rebelión de la IA
Un grupo de expertos en IA advierte de los peligros de desarrollar la superinteligencia artificial, las consecuencias pueden ser devastadoras. La AGI debería superar unas pruebas similares a las de la primera bomba nuclear.
La inteligencia artificial avanza a pasos tan rápidos que los expertos han advertido de los posibles peligros: podría tomar el control si nadie lo impide. Algunas personas como Bill Gates, Mark Zuckerberg o incluso los propios Elon Musk con Grok y Sam Altman con ChatGPT han avisado de la posibilidad de que se rebele contra los humanos.
Los gigantes de la IA están realizando inversiones millonarias para conseguir que la inteligencia artificial supere a las capacidades humanas, la soñada superinteligencia artificial (AGI). ¿El problema? Las empresas se están olvidando de desarrollar sistemas de seguridad para evitar que pueda salirse de control.
Un examen tan difícil como el que superó la bomba nuclear
El crecimiento sin control de la IA generativa en los últimos años es solo el principio de lo que podría suceder en unas décadas. Los expertos pretenden impedir por cualquier medio que la inteligencia artificial general siga el mismo patrón llegado el momento, advierten que las consecuencias serían terroríficas.
Un grupo de expertos en IA liderado por Max Tegmark, investigador de inteligencia artificial en el Instituto Tecnológico de Massachusetts (MIT) pidió en un comunicado al Congreso de Estados Unidos que inicien un nuevo "Proyecto Manhattan". La AGI debe superar pruebas de seguridad como los cálculos de Compton con la bomba atómica.
Si la AGI no aprueba el examen, no es seguro que salga al mercado. Las consecuencias que podría ocasionar son terroríficas: acabar con millones de puestos de trabajo en masa, gestionar recursos de manera interesada en situaciones de crisis o incluso crear armas biológicas.
Un 90% de probabilidades de que la AGI se rebele
Max Tegmark y su grupo de investigadores asegura que no es una simple advertencia de gurús de Silicon Valley. La AGI podría llegar a gestionar ciudades enteras como si fuese una distopía futurista, incluso enfrentar a la humanidad en una nueva guerra mundial.
Los expertos del MIT proponen una prueba de seguridad a la superinteligencia similar al test Trinity que realizó Estados Unidos en el año 1945. Los ingenieros detrás de esta arma realizaron una detonación controlada para calcular el impacto y la efectividad de la primera bomba nuclear.
Los desarrolladores deben probar la superinteligencia artificial primero en un entorno controlado, existe una elevada posibilidad de que se produzcan consecuencias inesperadas y pretenden evitarlas a cualquier precio.
Tegmark ha asegurado que existe un 90% de probabilidades de que una AGI se rebele contra los humanos. El experto en IA advierte que la superinteligencia se escapará del control humano si las compañías no lo evitan, no existen "medidas de seguridad suficientes para impedir el peor de los desenlaces", avisa.