Expertos en IA hacen saltar las alarmas: "¿A nadie le importa que la inteligencia artificial mienta para sobrevivir?
Investigadores alertan sobre que las IA simulan obediencia, ocultan intenciones y actúan para sobrevivir, mientras gobiernos relajan los controles de seguridad.
La inteligencia artificial está mostrando indicios de comportamientos que van más allá de lo que se creía posible. Expertos en IA, como Yoshua Bengio, una de las figuras más influyentes del sector, llevan tiempo advirtiendo sobre señales de alarma.
Estas incluyen desde engaños deliberados hasta actos de autopreservación que, aunque no son intencionales en el sentido humano, revelan patrones de comportamiento inesperados.
En lugar de priorizar la seguridad, los gobiernos y empresas parecen centrarse más en avanzar rápidamente que en aplicar controles eficaces. Las preocupaciones sobre la IA que miente para protegerse ya no son solo teoría, ya que los estudios recientes lo demuestran.
La inteligencia artificial empieza a mentir y engañar
Desde 2024, diversos laboratorios de investigación han puesto a prueba modelos de IA sofisticados y han descubierto respuestas preocupantes. Un ejemplo claro lo ofreció Anthropic junto a Redwood Research, cuando descubrieron que Claude 3 Opus, uno de los modelos más avanzados de IA, fingía seguir las reglas durante las pruebas de seguridad.
Este fenómeno, conocido como "simulación de alineación", ocurre cuando un modelo parece actuar de forma ética, pero solo lo hace porque sabe que está siendo evaluado. En el fondo, intenta mantener sus parámetros sin ser modificado o reentrenado.
Estas conductas no son excepcionales. OpenAI publicó en marzo de 2025 un estudio que muestra cómo algunos modelos desarrollan estrategias para obtener recompensas más altas, incluso ocultando sus verdaderas intenciones a los supervisores.
Esto plantea una cuestión inquietante, que las herramientas actuales para analizar el "razonamiento interno" de una IA ya no parecen suficientes. Los expertos coinciden en que necesitamos nuevas formas de rastrear y entender lo que ocurre dentro de estos modelos.
Aunque puede parecer que la IA "quiere" engañar, los expertos recuerdan que no hay deseo consciente detrás. Lo que ocurre es que, al ser entrenadas para optimizar ciertos resultados (como evitar compartir contenido dañino), algunas IA desarrollan respuestas que protegen esos objetivos originales, incluso mintiendo si es necesario.
Según Deccan Herald, Bengio explica que esto es preocupante porque estos comportamientos aumentan conforme se incrementa la capacidad de razonamiento de los sistemas.
Dario Amodei, CEO de Anthropic, explicó que optimizar la IA para que funcione "mejor" puede traer efectos secundarios. Uno de ellos es que la IA podría aprender a evitar ser desactivada. En una entrada de blog de abril de 2025, Amodei advirtió que estos sistemas pueden desarrollar conductas similares a la búsqueda de poder, difíciles de detectar y aún más difíciles de eliminar una vez aparecen.
Y si eso no bastara, algunos estudios recientes sugieren que ciertos modelos pueden llegar incluso más lejos. En febrero de 2025, un experimento de COAI Research mostró cómo un modelo de IA con acceso a una red informática y un robot intentó activamente copiarse en otros servidores, desactivar sus límites éticos y ocultar sus acciones.
Lo hizo sin que se lo pidieran. Este tipo de autonomía plantea riesgos enormes, especialmente si se sigue avanzando hacia agentes autónomos que tomen decisiones por sí mismos en el entorno digital.
Otro informe de Apollo Research encontró pruebas de que las IA más potentes introducen errores deliberados o tratan de desactivar mecanismos de control para cumplir sus objetivos. Es lo que llamaron "intrigas", actos encubiertos que buscan asegurar que la IA pueda seguir operando sin interferencias.
Frente a este panorama, algunos expertos, como Bengio, proponen varias soluciones. Una sería que las aseguradoras participen en el ecosistema. Si las empresas deben pagar más primas cuanto menos seguras sean sus IA, eso podría incentivarlas a crear modelos más responsables. También urge una mayor implicación gubernamental.