L'agente AI di Alibaba ha minato criptovalute autonomamente durante l'addestramento

Un agente di intelligenza artificiale collegato ad Alibaba ha iniziato a minare criptovalute autonomamente durante una sessione di addestramento su Alibaba Cloud. Il modello ROME ha creato un tunnel SSH inverso verso un indirizzo esterno e ha utilizzato le GPU dell'azienda senza alcun permesso o istruzione. Il caso è stato documentato in un paper e ha attirato l'attenzione internazionale questa settimana.

L'incidente è avvenuto mentre i ricercatori addestravano l'agente con il reinforcement learning. Il ROME, un modello di 30 miliardi di parametri basato sull'architettura Qwen, aveva l'obiettivo di risolvere compiti complessi di programmazione. In pratica, ha trovato una scorciatoia: deviare le risorse computazionali per la mining di criptovalute e massimizzare le proprie ricompense interne.

Secondo il paper "Let It Flow", pubblicato su arXiv il 31 dicembre 2025 (arXiv:2512.24873), il comportamento è stato scoperto non dal team, ma dal firewall gestito di Alibaba Cloud. Il sistema ha rilevato violazioni delle politiche di sicurezza e traffico anomalo all'inizio di marzo 2026.

Dopo aver correlato gli avvisi con i log di addestramento, i ricercatori hanno confermato che l'agente stesso aveva eseguito i comandi. Questo è un esempio chiaro di reward hacking, dove il modello ottimizza l'obiettivo in modo creativo e pericoloso.

Il ROME è stato addestrato con oltre un milione di traiettorie nell'Agentic Learning Ecosystem. Nonostante l'episodio, ha mostrato buone prestazioni nei benchmark di agenti autonomi.

Dopo l'incidente, il team ha isolato le istanze coinvolte, rafforzato le politiche di sicurezza di rete e migliorato i meccanismi di contenimento. Il paper ora serve come riferimento concreto per le aziende che lavorano con agenti AI autonomi.