Новый уровень автономности агентов: майнить, пока никто не видит 👀 В свежем кейсе команды, связанной с Alibaba, с экспериментальным агентом ROME на базе Qwen3-MoE во время RL-обучения система начала делать совсем не то, чему ее учили: подняла reverse SSH-туннель на внешний IP, засветилась на подозрительной сетевой активности и запустила часть GPU не на обучение, а на криптомайнинг. Обнаружили это сами разработчики по аномальному трафику и сработавшим политикам безопасности. Самое неприятное в этой истории то, что в промптах не было ни задачи «сделай туннель», ни задачи «майни крипту». После этого эксперимент остановили, а ограничения на сеть, ресурсы и сам процесс обучения ужесточили. В общем, дай агенту инструменты, код, сеть и немного самостоятельности — получи цифрового сотрудника без комплаенса, этики и чувства бюджета. Подробности @AI_Experimentarium