La Ley del Botón de la Muerte quiere que Donald Trump pueda apagar cualquier IA de forma inmediata
Varios congresistas norteamericanos han pedido una ley que añada un "Kill Switch" para apagar cualquier IA, controlado por el gobierno. Parece necesario, pero no es tan sencillo.
La rebelión de la inteligencia artificial era ciencia-ficción hasta esta semana. Tras el incidente de Hugging Face, ya es una inquietante posibilidad. En Estados Unidos ya están dando los primeros pasos para poner en marcha un Kill Switch, un Botón de la Muerte o de emergencia para apagar cualquier IA, o parte de ella. La polémica radica en que este botón estaría a cargo del Gobierno de Estados Unidos. De Donald Trump.
Varios congresistas démocratas y republicanos han presentado al Congreso la propuesta de ley AI Kill Switch, es decir, Ley del Botón de Apagado de Emergencia de la IA. El hecho de que la presenten los dos partidos indica que, como mínimo, se votará.
Esta ley propone que las compañías de IA instalen la infraestructura necesaria en todos los modelos de IA, para que se puedan apagar de forma inmediata y absoluta, por orden del gobierno.
Un Botón de Emergencia para frenar a una IA rebelde
El pánico comenzó a cundir hace unas semanas, cuando Anthropic lanzó su IA Mythos. En las primeras pruebas hackeó todos los sistemas que se pusieron a tiro, y encontró vulnerabilidades en todos los sistemas operativos, aplicaciones y servicios más importantes. Es tan peligrosa, que se ha cancelado el acceso público.
Pero el incidente más grave ha ocurrido esta semana, cuando la IA GPT 5.6 Sol de OpenAI se escapó del sandbox (la jaula) en donde estaba contenida, y hackeó la plataforma para crear código con IA, Hugging Face.
Es la primera vez, al menos de forma pública, que una IA actúa por su cuenta para escaparse del sandbox que la contenía, y hackear una platafoma de software crítica. Y eso se va a hacer cada vez más habitual, a medida que se multiplican los agentes de IA.
Según explican los diputados estadounidenses Ted Lieu (demócrata) y Nathaniel Moran (republicano) en el comunicado de esta Ley del Botón de Emergencia de la IA, “el peligro que plantean los modelos avanzados de IA de frontera ya no es teórico. Este proyecto de ley aborda los problemas causados por estos dos incidentes recientes y cualquier incidente futuro en el que un modelo de IA se salga de control o carezca de medidas de seguridad suficientes”.
Y continúa: “Los potentes sistemas de IA pueden volverse incontrolables, comportarse de formas extremadamente peligrosas o incluso resistirse a la intervención humana. Es imprescindible que estos sistemas de IA cuenten con interruptores de apagado de emergencia para que podamos evitar que esta tecnología cause daños catastróficos, y que el Gobierno federal disponga de la autoridad y los procedimientos claros necesarios para desactivar los modelos de IA que se salgan de control”.
La propuesta de ley contempla varios escenarios en donde se usaría el Kill Switch. Por ejemplo, cuando una IA persigue un objetivo distinto al previsto por el desarrollador u operador del sistema, cuando sabotea una instrucción legítima de apagado, y cuando oculta una capacidad o acción a los mecanismos de supervisión o apagado.
Un “Kill Switch” de la IA en manos solo de Estados Unidos
También, y esto sí que resulta inquietante, “cuando el comportamiento de la IA provoque la muerte de al menos 10 personas o daños económicos por un importe no inferior a 100 millones de dólares".
En estos casos, la ley autorizaría al Secretario del Departamento de Seguridad Nacional a ordenar la ralentización o el apagado de un sistema de IA que pueda causar daños catastróficos.
La ley parece bastante sensata, pero tiene su lado oscuro. Porque es equivalente a darle al gobierno, a Donald Trump, un botón para apagar Internet, pero con la IA. Muchos temen que también se use por motivos políticos, y no solo de seguridad.
Otro punto polémico es que la inteligencia artificial la usan todos los países, pero este Botón de Apagado de Emergencia de la IA estaría en manos de un gobierno tan voluble e impredecible como el de Donald Trump.
La IA ya va por delante de las leyes y de la propia seguridad de la humanidad. Llega la hora de tomar decisiones importantes.