Google reconoce que el uso de sus funciones de inteligencia artificial pueden suponer un riesgo para la ciberseguridad del consumidor. Por ese motivo, ha introducido herramientas que combaten cualquier problema de este tipo en Chrome. Sin embargo, debes activarlas para que funcionen. Te explicamos estas nuevas medidas contra ciberataques y cómo te protegen para que tus datos personales y bancarios sigan a salvo.
Las funcionalidades agenciales de Chrome que ha traído recientemente con Gemini han permitido a Google coger la delantera en el desarrollo de dicha tecnología. Su avance ha sido tan grande que la inteligencia artificial ya puede actuar automáticamente, para comprar entradas a conciertos, adquirir ciertos productos online o reservar billetes de avión, por ejemplo. Estas acciones las debe realizar siempre con el consentimiento del usuario, pero supone un paso tecnológico hacia adelante en el ámbito de la IA.
A medida que Google va desplegando las capacidades de agente en su navegador web, están llegando funciones para que los usuarios gestionen la seguridad. En todo momento, el consumidor podrá observar las acciones de la IA y pararla, para que no compre nada con su dinero si no lo desea. La compañía asegura que, con el fin de que la IA no actúe en nombre del usuario sin su consentimiento, ha aplicado varios modelos.
Crítico de Alineación del Usuario con Gemini
A través de su Blog de Seguridad, Google afirma que el modelo de planificación principal de Gemini «utiliza el contenido de la página compartida en Chrome para decidir qué acción tomar». Para evitar que el sistema no sea vulnerable a la inyección indirecta de mensajes, la empresa usa técnicas como el spotlighting, que traza el camino que el modelo debe seguir, priorizando las indicaciones del usuario y del sistema sobre el contenido de la página. Además, han entrenado a Gemini con ciberataques conocidos, para evitar que caiga en estafas.
En suma, han creado el «Crítico de Alineación de Usuarios». Google lo define como un «modelo independiente desarrollado con Gemini que actúa como un componente del sistema de alta confianza». Se inspira en el patrón dual-LLM y en la investigación CaMeL de Google DeepMind. Esta herramienta se ejecuta cuando Gemini planifica qué hacer, para verificar que la acción propuesta es coherente antes de que llegue al navegador.
¿Cuál es su objetivo?
El propósito del Crítico de Alineación del Usuario en Gemini de Chrome es la alineación de tareas. Es decir, se encarga de determinar si la acción propuesta cumple con la petición (prompt) del internauta.
Si la idea de la IA no coincide con el objetivo del usuario, el Crítico de Alineación del Usuario la veta. Según explican en Google, está diseñado para ver únicamente metadatos sobre la acción y no el contenido web no fiable sin filtrar. Esto garantiza que no pueda manipularse desde la página. Su contexto es limitado, pero suficiente para aprobar o rechazar una acción.
Google asegura que, con esta herramienta, protegen al usuario contra el robo de datos o de dinero, haciendo su IA mucho más segura:
«Esta es una potente capa adicional de defensa contra el secuestro de objetivos y la exfiltración de datos dentro del paso de acción. Cuando se rechaza una acción, el Crítico proporciona retroalimentación al modelo de planificación para reformular su plan, y el planificador puede devolver el control al usuario si se producen fallos repetidos».
Las restricciones del agente de Gemini
La naturaleza de Chrome por sí misma puede ser peligrosa con las nuevas funciones agenciales de Gemini. El navegador suele tener abiertas las sesiones de varias cuentas. Google sabe que, si un agente actuase sin restricciones, nuestros datos podrían verse comprometidos fácilmente. Por ese motivo, han establecido una omisión del aislamiento del sitio.
De ese modo, el agente estará sujeto a ciertas restricciones que le impidan acceder a otros datos que no estén relacionados con la tarea en cuestión o con que el propio usuario haya elegido compartir. «Esto evita que un agente comprometido actúe arbitrariamente en orígenes no relacionados», explica Google en un comunicado oficial desde su Blog de Seguridad.
Google señala que, para cada tarea, habrá una función de control fiable que se encargará de decidir qué orígenes propuestos por el planificador inteligente son relevantes o no. El sistema los separará en dos conjuntos:
- Los orígenes de solo lectura son aquellos desde los que Gemini puede consumir contenido. «Si el origen de un iframe no está en la lista, el modelo no verá ese contenido», resalta Google.
- Los orígenes de lectura y escritura son aquellos en los que el agente puede actuar y no solo leer. Por ejemplo, hacer clic, escribir, etc.
Gracias a esto, la empresa limita el vector de amenaza de fugas de datos. Además, permite que el navegador no envíe datos que estén fuera del conjunto legible al modelo de IA. Así, la firma tech se asegura que Gemini no mande a datos innecesarios entre sitios, algo que reduce el riesgo de que tu información caiga en malas manos.
Fuente: Blog de seguridad de Google | adslzone
