Por primera vez en la historia, investigadores del Google Threat Intelligence Group han confirmado el hallazgo de un fallo de seguridad de tipo zero-day que ha sido desarrollado por inteligencia artificial casi en su totalidad.
Este hecho marca el inicio de una nueva era para los ciberdelincuentes, que ahora son capaces también de servirse de modelos de lenguaje para encontrar fallos que ni los humanos ni las herramientas que suelen usarse detectan.
El ataque en cuestión, que afortunadamente fue neutralizado antes de su fase de expansión masiva, apunta a las herramientas de administración web de código abierto que sostienen gran parte de internet.
¿Cómo crearon el ataque?
Según el informe oficial de Google Threat Intelligence Group, la estructura del código malicioso encontrado en una popular herramienta de administración web mostraba señales inequívocas de haber sido generado por una máquina. El exploit estaba escrito en Python y presentaba un formato extremadamente estructurado y con una abundancia de comentarios que delataban que estaba creado con IA.
Pero lo más curioso no es solo la limpieza del código, que también, sino que la IA llegó a inventarse detalles técnicos como la puntuación de gravedad CVSS, algo típico de los fallos de los modelos de lenguaje actuales. Sin embargo, el código estaba diseñado para omitir la protección de doble factor (2FA).
Al investigar el fallo, los expertos se dieron cuenta de que no era el típico error de escritura o un virus común. Era un error de lógica, es decir, el programa estaba bien escrito, pero tenía un fallo de razonamiento en sus reglas. Mientras que los antivirus de toda la vida buscan fallos técnicos obvios, la inteligencia artificial es capaz de leer el programa como si fuera un libro y encontrar esas incoherencias que a un humano se le pasarían por alto.
Figura 2: Detalle del informe oficial de Google Threat Intelligence Group sobre el ataque
Google señala que este no es un caso aislado. Grupos de hackers vinculados a China y Corea del Norte (como APT27 y APT45) ya están utilizando modelos de IA de forma sistemática para descubrir vulnerabilidades. Pero el peligro ha subido un peldaño, ya que ahora los criminales están industrializando el acceso a modelos de IA premium mediante la creación automatizada de cuentas y el uso de infraestructuras de servidores ocultos para evitar los filtros de seguridad de las grandes tecnológicas.
Malware autónomo
El peligro va más allá de un virus que se queda en el móvil: Google ha detectado una evolución de programas maliciosos que ahora actúan con cerebro propio. A diferencia de los virus tradicionales que solo copian archivos, este nuevo software utiliza inteligencia artificial para manejar tu teléfono por sí solo, enviándose instrucciones a sí mismo para engañar a las protecciones de seguridad y moverse por tus aplicaciones como si fuera una persona real.
Una vez dentro, el malware es capaz de calcular la geometría de la interfaz del usuario para pulsar botones, navegar por los menús e incluso reproducir patrones de desbloqueo o códigos PIN que ha aprendido observando al usuario.
Además del malware, el informe de Google destaca operaciones como «Overload», de origen ruso, donde los atacantes utilizaron clonación de voz por IA para suplantar a periodistas en vídeos falsos.
¿Qué significa para ti?
Si instalas una aplicación infectada, esta puede espiar cómo mueves los dedos por la pantalla para aprenderse tu código secreto o el dibujo con el que desbloqueas el móvil. Una vez que la inteligencia artificial memoriza estos pasos, ya no necesita engañarte para que le des tus claves: el propio virus las introduce por ti para entrar en tu banco y operar de forma totalmente automática.
Fuente: adslzone
