Google detecta el primer exploit zero-day generado por Inteligencia Artificial

El Grupo de Inteligencia de Amenazas de Google ha publicado un informe alarmante que confirma un hito oscuro en la historia de la ciberseguridad: la identificación del primer exploit "zero-day" con evidencias claras de haber sido desarrollado y utilizado por Inteligencia Artificial. Este descubrimiento indica que el uso de modelos de lenguaje (LLMs) por parte de hackers ha dejado de ser experimental y ha alcanzado una escala industrial.

El "ADN" de la IA en el código malicioso

Los investigadores de Google identificaron un script de ataque diseñado para eludir la autenticación de dos factores (2FA) en una herramienta popular de código abierto. Lo que llamó la atención no fue solo su eficacia, sino la estructura del código: contenía docstrings (comentarios de documentación) extremadamente detallados y pulidos, típicos de respuestas de LLMs como GPT-4 o Gemini.

Aún más impresionante fue la presencia de una "alucinación" técnica: el código incluía un puntaje CVSS (sistema que mide la gravedad de fallas) inventado, algo que un desarrollador humano difícilmente haría, pero que es un error común en IAs generativas al intentar categorizar el peligro de un exploit.

China y Corea del Norte a la cabeza

El informe detalla cómo los estados-nación están acelerando esta carrera armamentista. China está alimentando modelos de IA con el dataset wooyun-legacy, que contiene el historial de más de 85.000 vulnerabilidades reales, entrenando sistemas para detectar fallas en infraestructuras modernas de manera automática.

Por su parte, Corea del Norte (grupo APT45) fue detectada utilizando prompts masivos recursivos para validar pruebas de concepto (PoCs) de exploits. El surgimiento del PROMPTSPY, una nueva categoría de malware autónomo, también fue destacado: se trata de un virus que utiliza IA para interpretar el estado del sistema de la víctima en tiempo real y generar comandos de ataque dinámicos, haciendo la detección por antivirus tradicionales casi imposible.

Big Sleep: La contraofensiva de Google

Para combatir la amenaza, Google reveló el progreso de Big Sleep (anteriormente conocido como Project Naptime). Este agente de IA defensivo fue diseñado para actuar como un investigador de seguridad autónomo, encontrando y sugiriendo correcciones para fallas críticas antes de que sean descubiertas por actores maliciosos.

Google también anunció CodeMender, una herramienta que ayuda a los desarrolladores a aplicar parches de seguridad sugeridos por IA de manera instantánea. "Estamos en una carrera de velocidad", afirma el informe. "La defensa necesita ser tan autónoma e inteligente como el ataque si queremos mantener la integridad de la internet global."