🤝 Иллюзия консенсуса: почему ИИ-агенты не станут нам друзьями В сообществе разработчиков автономных агентов принято считать, что «роя» умных моделей достаточно, чтобы решать сложные задачи через внутреннее обсуждение. Однако свежий препринт исследователей из ETH Zurich «Can AI Agents Agree?» ставит под сомнение саму возможность цифрового согласия. Эксперимент был предельно простым: группу популярных ИИ-агентов просили договориться о выборе одного числа в диапазоне от 0 до 50. Никаких конфликтов интересов, никакой выгоды — просто поиск консенсуса. Краткие выводы исследования: 1️⃣ Проблема масштабирования. Группы из 4 агентов еще справляются, но при увеличении числа участников до 16 система ломается. Агенты начинают бесконечный цикл «спама» предложениями, не слыша друг друга. 2️⃣ Цифровая паранойя. Достаточно добавить в системный промпт упоминание о возможном «предателе», как честные агенты становятся гиперподозрительными. Эффективность падает мгновенно, даже если все участники настроены дружелюбно. 3️⃣ Хрупкость перед хаосом. Один агент-саботажник способен полностью парализовать систему. Он не переубеждает остальных, он просто вносит информационный шум, заставляя «умные» модели бесконечно буксовать в обсуждении. Почему это важно для нас? Результаты ETH Zurich обнажают фундаментальную проблему: у нейросетей отсутствует внутренний мотив к согласию. Для ИИ-агента консенсус — это просто выполнение статистической вероятности предсказания следующего токена. У него нет социального инстинкта, нет страха изоляции и нет ценности «общего дела». Именно поэтому ИИ в его нынешнем виде не может быть полноценным партнером, сотворцом или другом. Дружба и партнерство строятся на преодолении разногласий ради общей ценности. У алгоритмов же есть только инструкция, которая рассыпается при малейшем шуме. Главный урок для людей Этот эксперимент — зеркало для человечества. Мы привыкли считать способность договариваться чем-то само собой разумеющимся. Но кейс с ИИ-агентами показывает: когда процесс коммуникации превращается в пустой обмен информацией без искреннего стремления понять другого, наступает «цифровое отупение». Если мы, люди, перестанем искать точки соприкосновения и начнем просто транслировать свои позиции, мы неизбежно деградируем до уровня этих «чугунных болванчиков». Наша сила не в вычислительной мощности, а в способности сопереживать и идти на компромисс. Поэтому прежде чем доверять управление миром «рою агентов», стоит вспомнить, что они не умеют даже выбирать цифру. А нам пора заново учиться искусству диалога, пока мы не превратились в бесконечно спамящие нейронки. 💬 Тест Тьюринга. События в сфере ИИ. Подписаться