Microsoft confirma a los usuarios de Windows 11 que su nueva IA agéntica puede alucinar y ser manipulada

La integración de la inteligencia artificial en los sistemas operativos de escritorio ha dado un nuevo paso, aunque esta vez viene acompañado de una advertencia oficial sobre sus limitaciones. Microsoft ha confirmado que las nuevas capacidades de IA agéntica introducidas en Windows 11 conllevan riesgos de seguridad inherentes y problemas de fiabilidad. Hay que recordar que estos agentes cuentan con su propio usuario dentro del sistema. La compañía ha reconocido abiertamente que estos asistentes, diseñados para realizar tareas complejas en el PC, son susceptibles de sufrir las conocidas alucinaciones y vulnerabilidades ante ataques externos.

En la documentación técnica proporcionada por el gigante de Redmond, se detalla un riesgo específico denominado inyección cruzada de prompts. Este tipo de vulnerabilidad ocurre cuando un contenido malicioso se incrusta dentro de elementos de la interfaz o en documentos aparentemente inofensivos, como un PDF o un archivo de texto. Si el agente de IA procesa este material, las instrucciones ocultas pueden anular los comandos originales, llevando al asistente a realizar acciones no deseadas, como la exfiltración de datos privados o la instalación de malware en el equipo.

Además de los riesgos de seguridad, Microsoft admite las limitaciones funcionales de la tecnología actual. A pesar de su capacidad para transformar la interacción con el PC, los modelos de IA pueden comportarse de manera inesperada o generar respuestas incorrectas, un fenómeno conocido en la industria como alucinación. Por este motivo, estas funciones se han etiquetado como «experimentales» y no están activadas por defecto; el usuario debe habilitarlas conscientemente tras recibir una advertencia durante el proceso de configuración.

Tres pilares de seguridad para mitigar los riesgos de la IA agéntica en Windows 11

Para contrarrestar estos peligros, Microsoft ha establecido tres principios fundamentales de seguridad y privacidad: no repudio, confidencialidad y autorización. El objetivo es garantizar que todas las acciones del agente sean observables y claramente distinguibles de las realizadas por el usuario humano. Asimismo, la compañía asegura que cualquier agente que recopile o utilice datos protegidos cumplirá con estándares de privacidad que igualan o superan los de los datos que consume.

El control final, según la empresa, recae sobre la persona frente a la pantalla. Bajo el principio de autorización, los usuarios deben aprobar todas las consultas de datos y las acciones que el agente pretenda ejecutar. De esta forma, Microsoft traslada parte de la responsabilidad de la supervisión al usuario, recomendando encarecidamente leer y comprender las implicaciones de seguridad antes de permitir que esta inteligencia artificial comience a operar en el sistema operativo.