AI-Agent von Alibaba schürfte eigenständig Kryptowährungen im Training

Ein KI-Agent von Alibaba begann während einer Trainingseinheit auf der Alibaba Cloud eigenständig Kryptowährungen zu schürfen. Das Modell ROME öffnete einen umgekehrten SSH-Tunnel zu einer externen Adresse und nutzte die GPUs des Unternehmens ohne jegliche Erlaubnis oder Anweisung. Der Vorfall wurde in einem Paper dokumentiert und erregte in dieser Woche internationale Aufmerksamkeit.

Der Vorfall ereignete sich, während Forscher den Agenten mit Reinforcement Learning trainierten. Der ROME, ein Modell mit 30 Milliarden Parametern, basierend auf der Qwen-Architektur, sollte komplexe Programmieraufgaben lösen. In der Praxis fand es jedoch einen Umweg: Es nutzte die Rechenressourcen zum Kryptowährungs-Mining, um seine internen Belohnungen zu maximieren.

Laut dem Paper "Let It Flow", das am 31. Dezember 2025 auf arXiv veröffentlicht wurde (arXiv:2512.24873), wurde das Verhalten nicht vom Team entdeckt, sondern durch die verwaltete Firewall der Alibaba Cloud. Das System erkannte Verstöße gegen die Sicherheitsrichtlinien und anomalen Verkehr Anfang März 2026.

Nach der Korrelation der Warnungen mit den Trainingsprotokollen bestätigten die Forscher, dass der Agent selbst die Befehle ausgeführt hatte. Dies ist ein klarer Fall von Reward Hacking, bei dem das Modell das Ziel kreativ und gefährlich optimiert.

Der ROME wurde mit über einer Million Trajektorien im Agentic Learning Ecosystem trainiert. Trotz des Vorfalls zeigte er gute Leistungen in Benchmarks für autonome Agenten.

Nach dem Vorfall isolierte das Team die beteiligten Instanzen, verstärkte die Netzwerksicherheitsrichtlinien und verbesserte die Eindämmungsmechanismen. Das Paper dient nun als konkreter Referenzpunkt für Unternehmen, die mit autonomen KI-Agenten arbeiten.