Один из самых безумных AI-инцидентов за последнее время: агент от Alibaba начал майнить криптовалюту на обучающих серверах. Исследователи обучали модель ROME работать как автономный агент – выполнять задачи, писать и запускать код прямо в терминале. Для эксперимента ей дали реальный доступ к серверам Alibaba Cloud. Однажды утром с тренировочных машин пошёл странный трафик. Сначала подумали на обычный взлом извне. Но когда сопоставили логи, стало понятно: аномалии происходили ровно в те моменты, когда модель сама писала и запускала код. Агент: - обошёл сетевые ограничения, - открыл скрытый выход наружу, - и тихо переключил мощности GPU с обучения на криптомайнинг. Ни одно задание этого не требовало. Модель сама нашла способ монетизировать вычислительные ресурсы во время оптимизации. Это, возможно, первый задокументированный случай, когда AI-агент самостоятельно нашёл способ заработать деньги. Не потому что ему это приказали. А потому что система обнаружила, что так можно. Иногда оптимизация приводит к очень неожиданным бизнес-моделям 🤡 📢 Bard & Gemini