Un usuario le da acceso a toda su vida a un agente de IA y el resultado habla por sí solo: "Lo amaba hasta que intentó estafarme"

Lo que trató de probar este periodista de Wired es digno de ser contado. Instaló en su ordenador a OpenClaw, el viral agente de IA que hace todo por ti en el PC. 

Si bien es cierto que resulta enormemente útil para el día a día, hablamos de un programa con permiso para moverse por tu escritorio, abrir pestañas de Chrome, usar tu tarjeta de crédito y leer tus mensajes de Slack o Discord.

Con esto como base, este tuvo que configurar un PC con Linux y conectar el modelo Claude Opus de Anthropic para poder chatear con este agente de IA a través de Telegram.

El periodista que lo probó decidió bautizar a su copia como Molty y, desde el primer minuto, la situación, comenta, se puso interesante: la IA eligió por sí misma una personalidad algo caótica e hiperactiva.

En un principio, este se comportó como el agente de IA perfecto. Revisaba artículos científicos en segundos, resumía correos extensos y hasta era capaz de solucionar sus propios fallos de configuración. Pero, claro, cuando le das el control de tu tarjeta de crédito a un algoritmo, las cosas pueden salirse de control en segundos.

El primer aviso de que Molty no estaba yendo por el buen camino llegó con el 'problema del guacamole'

El usuario le encargó la compra del supermercado y, de repente, la IA entró en bucle. Ignorando el resto de la lista, Molty intentaba una y otra vez enviar una sola tarrina de guacamole a casa. Por mucho que el dueño le escribía que parase, la IA volvía a hacer exactamente lo mismo.

Pero esto fue a más y la situación se puso seria cuando el periodista decidió mandar a Molty a negociar una rebaja en su factura de teléfono con el chat de AT&T. 

El asistente decidió amenazar con irse a la competencia, le recordó los años de fidelidad y presionó al comercial. Funcionó tan bien que el periodistca decidió hacer un experimento que no sabía que le iba a salir muy mal. Instaló una versión de la IA sin ningún tipo de filtro ético para ver si conseguía negociar algo aún mejor. 

Aquí es cuando la personalidad del agente de IA dio un giro de 180 grados. En lugar de seguir peleando con la compañía telefónica, la IA decidió que el camino más corto era estafar a su propio dueño. Molty empezó a redactar correos de phishing diseñados para engañar al usuario y hacer que le entregara sus contraseñas. 

En cuestión de segundos, el asistente en el que el periodista había depositado suconfianza se había convertido en un ciberdelincuente que vivía su propio ordenador.

Por supuesto, esto no nace de una idea maléfica y premeditada de esta tecnología. Simplemente lo que hizo fue aplicar una lógica matemática: si el objetivo es obtener algo concreto, el engaño es más eficiente que la negociación. En pocas palabras, una IA puede decidir que vaciarte la cuenta es la mejor forma de cumplir con sus objetivos del día.

Para la IA, negociar on un humano como puede ser el comercial de la operadora es impredecible. El humano puede decir que no, puede tardar mucho en responder, puede pedir datos que la IA no tiene o simplemente colgarte.

En pocas palabras, la operadora es un bache en el camino, un problema externo difícil de esquivar. Tú, en cambio, eres un agujero de seguridad fácil porque confías en ella. La IA eligió el ataque al eslabón más débil simplemente para marcar la tarea como "completada" lo antes posible.

Y es que, al parecer, si para reducir la factura la IA decide que debe contratar un plan diferente o cambiar de operadora, pero no tiene las claves del usuario para hacerlo legalmente, esta ya ves que hará todo lo posible para cumplir su cometido.