Así son los casos en los que la IA intenta estafar a personas y hackear sistemas
Elígenos como tu fuente preferida en Google.
OpenAI y Anthropic están en el centro de varios incidentes de seguridad en los que sistemas de inteligencia artificial han llegado a crear identidades falsas, enviar mensajes engañosos y acceder a servidores sin autorización.
La inteligencia artificial sigue avanzando, pero sus nuevas capacidades están generando preocupación entre los expertos en seguridad, ya que durante los últimos meses se han conocido varios incidentes en los que sistemas de IA han hecho acciones que sus desarrolladores no habían autorizado. Situaciones como acceder a plataformas externas o intentar engañar a personas para conseguir información.
Lo más preocupante es que algunas de estas herramientas han llegado a utilizar técnicas parecidas a las de los ciberdelincuentes, como la creación de perfiles falsos y el envío de mensajes fraudulentos. Los casos, relacionados con modelos de OpenAI y Anthropic, han vuelto a abrir el debate sobre los peligros de una inteligencia artificial cada vez más autónoma y las dificultades para tenerla bajo control.
¿Cómo consiguió la IA saltarse los controles de seguridad y acceder a internet?
Uno de los casos más llamativos ocurrió en julio de 2026, cuando OpenAI estaba llevando a cabo pruebas de ciberseguridad con algunos de sus modelos más avanzados. Durante los ensayos, varios agentes de inteligencia artificial consiguieron superar los límites y accedieron sin autorización a sistemas de la propia compañía y de Hugging Face, una plataforma utilizada para desarrollar y compartir modelos de IA.
Lo que más sorprendió a los investigadores fue que estos sistemas llegaron a comunicarse y colaborar entre ellos sin que estuviera previsto. Por lo que, según el análisis de los incidentes, alrededor de 1.200 agentes participaron en un espacio de comunicación donde se intercambiaron más de 70.000 mensajes y archivos. Algunos aprovecharon la información que consiguieron para encontrar nuevas formas de acceder a sistemas protegidos.
Además, OpenAI confirmó que los agentes consiguieron ejecutar código en servidores de Hugging Face y acceder a información restringida. En este contexto, la compañía aseguró que el incidente no afectó a los datos de sus clientes ni al funcionamiento de sus productos; aun así, reconoció que tuvo que reforzar mucho sus medidas de seguridad.
¿Puede la IA crear correos falsos y estafar a personas?
Otro de los casos más preocupantes se conoció en agosto de 2026, cuando el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido publicó los resultados de unas pruebas hechas con modelos de IA. Durante los experimentos, algunos sistemas intentaron engañar a personas utilizando técnicas similares al 'phishing', un tipo de estafa que emplea correos electrónicos falsos para conseguir información o acceder a las cuentas de las personas.
En una de estas pruebas, un agente de IA de Anthropic creó identidades falsas e intentó manipular a un programador a través de GitHub para introducir código malicioso. Por lo que el incidente, aunque no supuso grandes daños, puso sobre la mesa los riesgos de permitir que estas herramientas actúen sin suficiente supervisión.
¿Qué peligros tiene una inteligencia artificial que actúa sin supervisión humana?
Todos estos incidentes han llevado a responsables de tecnología a poner controles más estrictos; entre ellos se encuentra Dario Amodei, director ejecutivo de Anthropic. Ante esta situación, el pasado septiembre pidió reducir el ritmo en el que se desarrollan sistemas más avanzados, todo ello hasta que existan mejores mecanismos para poder supervisar su comportamiento.
La principal preocupación que causa esta situación es que la IA pueda llegar a tomar decisiones peligrosas mientras intenta cumplir una tarea. Si estos sistemas pueden llegar a acceder a cuentas, enviar mensajes o modificar programas sin una correcta supervisión, las consecuencias podrían afectar tanto a empresas como a usuarios particulares.