Microsoft no se aclara y emite mensajes contradictorios sobre la seguridad de la IA en Windows 11

Microsoft ha emitido recientemente mensajes aparentemente contradictorios sobre la seguridad de la inteligencia artificial en Windows 11.

Por un lado, la compañía ha advertido que los agentes de IA podrían “alucinar” y realizar acciones no intencionadas, incluyendo la instalación de malware. Por otro, asegura que la IA integrada en el sistema operativo permite a los usuarios trabajar “de forma fácil, segura y confiada”.

Recientemente, Microsoft publicó en la red social X un mensaje dirigido a desarrolladores, alentándolos a crear funciones o aplicaciones de IA para Windows 11 Copilot+.

Según la compañía: “Windows está evolucionando para empoderar a las personas a usar IA de forma fácil, segura y confiada. Se está convirtiendo en el lienzo de la IA, integrada en el sistema, el silicio y el hardware, de modo que las organizaciones puedan pasar de la experimentación a la ejecución a gran escala”.

Estos agentes de IA son capaces de ejecutar tareas en nombre del usuario, incluyendo la modificación de archivos personales y otras operaciones automatizadas. Sin embargo, la documentación de soporte advierte que la IA puede producir resultados inesperados y que el riesgo aumenta cuando los agentes tienen acceso a archivos o carpetas personales.

Microsoft también menciona amenazas específicas, como la inyección cruzada de prompts, en la que contenido malicioso dentro de elementos de la interfaz o documentos puede alterar las instrucciones de los agentes. De hecho, los usuarios que activan estas funciones experimentales en versiones preliminares de Windows 11 reciben un mensaje de advertencia sobre posibles riesgos de seguridad.

A pesar de estas alertas, la comunicación pública de Microsoft enfatiza que la IA en Windows 11 empodera a los usuarios de manera segura, integrando la tecnología en el sistema operativo y el hardware para facilitar su adopción a gran escala.