Dos apagones de la nube AWS de Amazon los provocó código generado con IA: Amazon echa la culpa a los empleados
Una IA de Amazon tumbó su nube AWS, y como pasa con los coches autónomos, cuando hay un accidente... ¿Quién es el culpable?
Tarde o temprano tenía que ocurrir. El vibe coding, el código de programación creado por la inteligencia artificial, no es perfecto, y Amazon lo ha comprobado en sus propias carnes, por partida doble. Su nube AWS se ha caído dos veces durante horas, por dos fallos en el código creado por la IA.
Amazon asegura que la culpa es de un fallo humano de sus empleados, el error podría haber pasado igual sin usar IA. Pero algunos de los trabajadores que han hablado con Financial Times, de forma confidencial, insisten en que la IA fue demasiado lejos.
“Las interrupciones fueron pequeñas, pero totalmente evitables. La empresa se ha fijado el objetivo de que el 80 % de sus desarrolladores utilicen la codificación asistida por IA al menos una vez a la semana”.
Así fue el fallo de la IA con AWS
Muchos programadores temen estar siendo utilizados como conejillos de Indias: entrenan a la IA y corrigen sus errores, y cuando mejore, serán despedidos.
Según cuenta el medio, el primer incidente ocurrió a mediados de diciembre. Kiro, el agente de IA desarrollado por Amazon para programar, mientras estaba generando código, decidió borrarlo todo y empezar de cero. Esto provocó la caída de la nube AWS de forma parcial durante 13 horas, afectando principalmente a China.
Sorprende el poder que ya tiene la IA para manipular elementos críticos de la nube de Amazon, pese a ser una IA de primera generación. Según Amazon, para que Kiro pueda hacer cambios, tiene que tener el permiso de un programador, que se lo había dado. Además descubrieron que este ingeniero tenía más permisos de los que le correspondían por su cargo. Por eso Amazon lo califica de fallo humano.
Aunque sea así, este incidente deja al descubierto dos problemas del vibe coding. El primero, que la IA es imprevisible, no piensa como un humano. A ningún programador se le ocurría borrar todo, con la red en funcionamiento, y empezar de cero. El segundo, aunque un humano deba dar permiso a la IA para hacer cambios, con el tiempo puede asumir que la IA lo hace bien y darle permiso como una rutina, hasta que en un descuido, la IA se cargue algo.
En el segundo incidente, un chatbot llamado Q Developer, que asiste a los ingenieros en la programación, provocó un fallo que ocasionó cortes en diferentes sistemas.
Estos apagones de la nube AWS de Amazon provocados por código generado con IA, llegan apenas unas semanas después de que Amazon haya despedido a docenas de miles de empleados, debido a la reestructuración de la empresa “para afrontar los desafíos de la IA”.