Google rileva il primo exploit zero-day generato da Intelligenza Artificiale

Il Google Threat Intelligence Group ha pubblicato un rapporto allarmante che conferma un punto di svolta oscuro nella storia della sicurezza informatica: l'identificazione del primo exploit "zero-day" con prove evidenti di essere stato sviluppato e armato da Intelligenza Artificiale. La scoperta indica che l'uso di modelli linguistici (LLM) da parte degli hacker ha superato la fase sperimentale per raggiungere una scala industriale.

Il "DNA" dell'IA nel codice malevolo

I ricercatori di Google hanno identificato uno script di attacco progettato per aggirare l'autenticazione a due fattori (2FA) in uno strumento open source popolare. Ciò che ha attirato l'attenzione non è stata solo l'efficacia, ma anche la struttura del codice: conteneva docstring estremamente dettagliati e raffinati, tipici delle risposte degli LLM come GPT-4 o Gemini.

Ancora più impressionante è stata la presenza di una "allucinazione" tecnica: il codice includeva un punteggio CVSS (sistema che misura la gravità delle vulnerabilità) inventato, qualcosa che un sviluppatore umano difficilmente farebbe, ma che è un errore comune nelle IA generative quando tentano di categorizzare il pericolo di un exploit.

Cina e Corea del Nord in testa

Il rapporto dettaglia come le nazioni stiano accelerando questa corsa agli armamenti. La Cina sta alimentando modelli IA con il dataset wooyun-legacy, che contiene la storia di oltre 85.000 vulnerabilità reali, addestrando sistemi per rilevare automaticamente difetti nelle infrastrutture moderne.

La Corea del Nord (gruppo APT45) è stata rilevata mentre utilizzava prompt ricorsivi massivi per validare prove di concetto (PoC) di exploit. L'emergere di PROMPTSPY, una nuova categoria di malware autonomo, è stato anche evidenziato: si tratta di un virus che utilizza l'IA per interpretare in tempo reale lo stato del sistema della vittima e generare comandi di attacco dinamici, rendendo la rilevazione da parte degli antivirus tradizionali quasi impossibile.

Big Sleep: La controffensiva di Google

Per combattere la minaccia, Google ha rivelato i progressi del Big Sleep (precedentemente noto come Project Naptime). Questo agente IA difensivo è stato progettato per agire come un ricercatore di sicurezza autonomo, trovando e suggerendo correzioni per vulnerabilità critiche prima che vengano scoperte da attori malevoli.

Google ha anche annunciato il CodeMender, uno strumento che aiuta gli sviluppatori ad applicare patch di sicurezza suggerite dall'IA istantaneamente. "Siamo in una corsa contro il tempo", afferma il rapporto. "La difesa deve essere altrettanto autonoma e intelligente quanto l'attacco se vogliamo mantenere l'integrità di Internet a livello globale."