Google ha anunciado hace escasas horas que los grupos de ciberatacantes están haciendo un uso de tácticas fraudulentas para extraer datos de Gemini. Su objetivo es atentar contra grandes empresas a escala mundial para robar información privilegiada con más facilidad, tomando como respaldo la inteligencia artificial de la tecnológica. Los expertos ya han vaticinado que este tipo de acciones podrían acabar generando terribles consecuencias para los estados afectados.
Justo cuando creíamos que la IA iba a suponer una mejora para la productividad, lo cierto es que se puede acabar convirtiendo en nuestro peor enemigo. Google Cloud ha afirmado en un nuevo informe que las nuevas tecnologías están propiciando el avance de los hackers con herramientas cada vez más sofisticadas.
En 2025 ya anunciamos que los ciberestafadores continuaban atentando contra grandes corporaciones basándose en modelos de IA. Esto supuso un ascenso de intentos de amenazas que llegaron a superar el 67 % de entidades que las sufrieron. Ahora, este año, se auguran los peores presagios, pues se presenta una situación más grave de lo que esperábamos.
Así es el nuevo modus operandi de los hackers con el uso de Gemini
La gran G ya había vaticinado el pasado mes de noviembre hallazgos sobre el uso de herramientas de la IA por parte de varios equipos de desarrollo fraudulentos. Ahora, la multinacional lo corrobora a través de una nueva actualización en su blog. Según el último análisis realizado por el equipo de Google Threat Intelligence Group (GTIG) bajo el título «AI Threat Tracker», los piratas informáticos están desarrollando una serie de mecánicas con una precisión alarmante.
El papel que desempeñan es estudiar en profundidad cómo funcionan los modelos de IA para conocer su comportamiento y provocar el caos informático. Es decir, el procedimiento que están llevando a cabo se centra en una especie de ciberespionaje exhaustivo para conseguir controlar la arquitectura de modelos de inteligencia artificial como Gemini. Una vez que hayan obtenido todo ese botín, lo utilizarán para crear perfiles falsos, señuelos de phishing, codificar texto y realizar pruebas de vulnerabilidad.
Uno de los escenarios más escabrosos que han presenciado es que los actores de amenazas chinos ordenaron a un experto en ciberseguridad que empleara sus habilidades técnicas para solicitar que Gemini automatizara el análisis de vulnerabilidades. También han destacado otros ejemplos como la célula iraní APT42, que aprovechó el modelo de lenguaje de Google para campañas de ingeniería social.
¿Hay casos que hayan afectado a España?
Por el momento, el comunicado de GTIG indica que nuestro país no se ha visto perjudicado por ninguno de estos ciberataques. Tampoco se habla sobre posibles acciones maliciosas con modelos de IA que hayan podido causar fuertes daños. Además, este centro de inspección afirma que, por suerte, no se han identificado más acontecimientos importantes a nivel global, aunque se mantiene precavido por si pudiesen surgir variantes de malware que integren las capacidades de la IA en sus operaciones.
Asimismo, el informe señala que Gemini está siendo el foco de atención de un gran número de maleantes, ya que se ha enfrentado a intentos de extracción y destilación. Esto se traduce en entrenar modelos nuevos a partir de aplicaciones más avanzadas. Las organizaciones aprovechan el acceso API para consultar los metadatos del sistema y, posteriormente, replicar todas esas funciones.
Más de 100.000 intentos para clonar Gemini
El gigante tecnológico también ha puesto sobre la mesa un estudio en el que figura que Gemini acabó siendo víctima de más de 100.000 intentos de clonación que planteaban una serie de preguntas destinadas a reproducir su razonamiento en idiomas distintos del inglés. El resultado fue que Google acabó desviando ese ataque y reduciendo el riesgo de amenaza. La multinacional asegura realizar, de forma periódica, un análisis robusto de sus sistemas IA para mejorar la seguridad y protección.
Fuente: Google Cloud | adslzone
