😵‍💫ИИ-агенты в браузерах помогают хакерам обойти свою защиту Новый класс браузеров с ИИ (вроде Perplexity Comet) обещает рай для ленивых: агент сам залогинится на сайте, заполнит формы и отменит ненужную подписку. Но исследователи обнаружили критическую уязвимость, которую назвали Agentic Blabbering - болтливость агента. Суть в том, что ИИ не просто блокирует подозрительные сайты, а слишком подробно объясняет в логах, почему он это сделал. Для хакера это не отказ, а идеальная инструкция по обходу защиты. 🔍Как работает петля обучения мошенников: Исследователи построили систему по принципу состязательной сети (GAN). С одной стороны - ИИ-браузер, с другой - скрипт, генерирующий фишинговый сайт. ИИ заходит на кривой сайт и говорит: Тут плохой дизайн и странный баннер, похоже на фишинг Скрипт мгновенно правит дизайн и убирает баннер. ИИ заходит снова: Выглядит лучше, но форма входа вызывает подозрение Скрипт меняет форму. Весь цикл обучения атаки против конкретной модели ИИ занял меньше 4 минут. На четвертой попытке браузер перестал видеть угрозу и послушно передал логин и пароль пользователя на мошеннический ресурс. 🟥Почему это опаснее обычного фишинга: 🟦Прямой доступ: Агент работает внутри сессии, где вы уже авторизованы. Ему доступны ваша почта, счета и личные переписки. 🟦Слив через скриншоты: Исследователи выяснили, что некоторые агенты постоянно делают снимки экрана для анализа, и эти скриншоты (с вашими данными!) порой хранятся в облаке по открытым ссылкам. 🟦Атака на модель, а не на человека: Хакеру больше не нужно быть психологом и пугать вас блокировкой счета. Ему достаточно один раз подобрать ключ к алгоритму, и защита падет у всех миллионов пользователей этого браузера. © Тень Франклина