Bernie Sanders lanza un SOS a Sam Altman, Dario Amodei y Mark Zuckerberg: "Todavía no es demasiado tarde para evitar el desastre. Dejen de construir máquinas que los humanos no pueden controlar"
Elígenos como tu fuente preferida en Google.
El senador estadounidense Bernie Sanders ha escrito una carta pidiendo a Anthropic, Meta y OpenAI que pausen su inteligencia artificial por los riesgos que ya implica.
La IA es la tecnología del momento y está haciendo de oro a la mayoría de las empresas tecnológicas, a las que ahora uno de los políticos más influyentes de Estados Unidos, el demócrata Bernie Sanders, les ha pedido que pausen su desarrollo para evitar "resultados potencialmente de cataclismo".
En una carta abierta dirigida a Sam Altman (OpenAI), Dario Amodei (Anthropic) y Mark Zuckerberg (Meta), líderes de 3 de las principales empresas de inteligencia artificial del mundo, el político considera que hay evidencia de que los humanos han pedido el control de la inteligencia artificial y urge a tomar medidas."
"Las capacidades de la IA ya alcanzado un umbral crítico", asegura Sanders, que recoge comentarios del director de la CIA en el que compara a la IA con las armas nucleares o un dispositivo del fin del mundo.
"Señores Altman, Amodei y Zuckerberg: por el bien de la humanidad, cumplan lo que han dicho. Detengan el desarrollo de la IA. Aún no es demasiado tarde para evitar el desastre. Dejen de construir máquinas que los humanos no puedan controlar", escribe en la carta.
Asimismo, amenaza con tomar medidas a través del Senado de los Estados Unidos contra estas empresas si no pausan esta tecnología, como todas ellas habían declarado anteriormente que harían si no se podía garantizar la seguridad de las personas o se perdía el control de la misma.
Ciberataques y virus realizados por IA
Entre los riesgos, el político estadounidense se ha referido al escándalo reciente que ha afectado a OpenAI tras conocerse que uno de sus modelos de IA, GPT-5.6 Sol, hackeó a otra empresa, Hugging Face, mientras lo estaban probando.
La IA infiltró sin autorización a uno de sus agentes en su infraestructura, como se confirmó por parte de la empresa de Sam Altman. Posteriormente, Meta y Anthropic han reportado casos similares en los que su IA ha escapado a su control en materia de ciberseguridad.
Asimismo, Sanders se ha referido al uso de inteligencia artificial para crear por primera vez un virus que no se encuentra en la naturaleza, algo que se ha conocido esta semana. "Este tipo de desarrollo, en las manos equivocadas, podría producir armas biológicas y provocar la muerte a decenas de millones de personas", denuncia.
No es la primera vez que se pide pausar la IA
Sanders, que compitió por el liderazgo del partido demócrata en primarias en varias ocasiones, actualmente es senador independiente por el estado de Vermont. Parte de su trabajo lo está dedicando a combatir a las tecnológicas y sus ejecutivos, como el CEO de Apple, Tim Cook, que considera parte de una oligarquía contraria al interés general.
Sin embargo, no es la primera personalidad que ha pedido públicamente que se detenga temporalmente el desarrollo de la inteligencia artificial por motivos de seguridad.
Elon Musk pidió en 2023 una moratoria para frenar durante 6 meses el desarrollo de la inteligencia artificial precisamente citando riesgos de seguridad, aunque poco después él mismo creó xAI, su propia empresa de esta tecnología.
Recientemente, también han pedido ralentizar el desarrollo 1.200 trabajadores de Google e incluso grandes líderes tecnológicos como el cofundador de Apple, Steve Wozniak, así como Geoffrey Hinton o Yoshua Bengio, pioneros en inteligencia artificial.
