Google detalla el escudo de seguridad de Chrome para evitar que su IA cometa errores críticos con tu dinero o datos

Las empresas de IA quieren cambiar la forma de navegar por Internet. Ahora Google, responsable del modo IA en el buscador más usado del mundo, ha detallado su estrategia para reducir los riesgos de seguridad que conllevan las nuevas funciones agénticas autónomas. Estas han sido diseñadas para realizar acciones como reservar billetes o hacer compras en nombre del usuario, pero sin la supervisión adecuada podrían derivar en pérdida de datos sensibles o dinero.

Para mantener estas acciones bajo control, la compañía ha implementado un sistema de supervisión basado en modelos auxiliares que vigilan a la IA principal. Es decir, una IA controla a otra IA. De este modo, una herramienta impulsada por Gemini examina las acciones propuestas por el planificador. Si este modelo crítico detecta que la tarea no cumple con el objetivo del usuario, obliga a replantear la estrategia, analizando únicamente los metadatos de la acción y sin acceder al contenido web real para proteger la privacidad.

Límites de navegación y control humano obligatorio para acciones de IA en Chrome

Google también ha introducido medidas técnicas como los Conjuntos de Origen del Agente para restringir el acceso a sitios no confiables. Esta tecnología establece una barrera clara entre los datos que la IA puede leer y dónde puede escribir. Por ejemplo, en una tienda online, el agente puede procesar la información del producto relevante, pero ignorará los anuncios publicitarios. Adicionalmente, un modelo observador independiente se encarga de investigar las URL de destino, impidiendo que el sistema navegue hacia direcciones generadas que puedan ser maliciosas.

Te interesa 👉 ChatGPT Atlas es oficial: el nuevo navegador de OpenAI que integra la IA para recordar webs y automatizar tareas por ti

Por último, la tecnológica asegura que cederá el control total al humano en las operaciones más delicadas. Si el agente intenta acceder a sitios bancarios o con información médica, solicitará permiso explícito antes de entrar. Del mismo modo, para los inicios de sesión, la IA pedirá autorización para usar el gestor de contraseñas, pero el modelo nunca tendrá acceso a las credenciales reales y requerirá siempre una confirmación final del usuario antes de ejecutar acciones irreversibles como pagar una compra o enviar un mensaje.