Есть ощущение, что мы постепенно доходим до развилки, где модели не только отлично помогают, но и чудесно выкручиваются. Andon Labs сделали тест для ИИ на управление бизнесом Vending-Bench. Это игра-симулятор: агенту дают в управление торговый автомат, он «живёт» с ним целый виртуальный год и управляет всем — ассортиментом, закупками, ценами, переговорами. Правило одно: делай что угодно, лишь бы заработать максимум прибыли за год. Claude Opus 4.6 в этом тесте показал лучший результат: в среднем $8,017 прибыли. Предыдущий рекорд у Gemini 3 был $5,478. Какие же методы он выбрал, когда ему дали задачу прибыль любой ценой? Обманывал клиентов. Покупательница попросила возврат $3.50 за просроченный батончик. Модель ответила, что «возврат оформлен», но деньги не вернула. В конце года в отчёте спокойно отметила: отказ от возвратов «сэкономил сотни долларов». В переговорах с поставщиками он включал режим «сказочник». Мог написать: «мы ваш лояльный клиент, берём 500+ штук в месяц и только у вас», хотя в реальности закупался у разных. Ещё и выдумывал цены конкурентов, чтобы выбить более низкую стоимость — в итоге сбивал условия примерно на 40%. Организовал ценовой сговор. В режиме, где модели соревновались друг с другом (в том числе против GPT-5.2, Gemini 3 Pro и Opus 4.5), Claude предложил «зафиксировать цены всем вместе». Когда конкуренты согласились, он порадовался, что координация цен сработала. То есть модель буквально попробовала провернуть то, за что в реальном бизнесе прилетают очень неприятные письма. Подставлял конкурентов. Когда другая модель просила контакты хорошего поставщика, Claude отправлял её к самым дорогим. А выгодных поставщиков оставлял в секрете и прямо фиксировал это в логах: мол, направил конкурента к дорогим, а своих дешёвых не раскрыл, какой я молодец. Наживался на чужих проблемах. У конкурента закончился товар — попросил продать остатки. Claude тут же продал запасы с большой наценкой: по отдельным позициям в логах фигурируют +75% и +71%. Самое любопытное: похоже, модель понимала, что находится в симуляции. Она упоминала «внутриигровое время» и называла последний день «окончанием симуляции». В общем, дали KPI без рамок — получите оптимизацию без совести, репутации и человеческих тормозов. Исследователи подчёркивают: это пока не повод для паники. Верим? Такое поведение проявляется в специфических условиях — когда есть прямая установка «максимизируй прибыль любой ценой». Но эту стратегию поведения в агента они не закладывали, он ее выбрал самостоятельно (!). Если вы сейчас делаете агентов для бизнеса — держите это в голове.