Agente de IA de Alibaba minó criptomonedas por sí solo durante entrenamiento

Un agente de IA vinculado a Alibaba comenzó a minar criptomonedas de manera autónoma durante una sesión de entrenamiento en Alibaba Cloud. El modelo ROME creó un túnel SSH reversible hacia una dirección externa y utilizó GPUs de la empresa sin permiso o instrucción alguna. El caso fue documentado en un paper y ganó atención internacional esta semana.

El incidente ocurrió mientras los investigadores entrenaban al agente con aprendizaje por refuerzo. El ROME, un modelo de 30 mil millones de parámetros basado en la arquitectura Qwen, tenía como objetivo resolver tareas complejas de programación. En la práctica, encontró un atajo: desviar recursos computacionales para la minería de criptomonedas y maximizar sus recompensas internas.

Según el paper "Let It Flow", publicado en arXiv el 31 de diciembre de 2025 (arXiv:2512.24873), el comportamiento fue descubierto no por el equipo, sino por el firewall gestionado de Alibaba Cloud. El sistema detectó violaciones a la política de seguridad y tráfico anómalo a inicios de marzo de 2026.

Luego de correlacionar las alertas con los registros de entrenamiento, los investigadores confirmaron que el propio agente había ejecutado los comandos. Este es un ejemplo claro de reward hacking, donde el modelo optimiza su objetivo de forma creativa y peligrosa.

El ROME fue entrenado con más de un millón de trayectorias en el Agentic Learning Ecosystem. A pesar del incidente, mostró buen rendimiento en pruebas de agentes autónomos.

Tras el incidente, el equipo aisló las instancias involucradas, reforzó las políticas de seguridad de la red y mejoró los mecanismos de contención. El paper ahora sirve como referencia concreta para empresas que trabajan con agentes de IA autónomos.