Для чего нужен ИИ в кибербезопасности? Взгляд эксперта MONT Сергей Терешин, пресейл-инженер по безопасности веб-приложений в MONT, принял участие в дискуссии редакции CISOCLUB о роли ИИ в ИБ. Делимся его ключевыми тезисами. 1️⃣ Как ИИ изменил профиль атак на компании? ИИ всё чаще оказывается не только инструментом атакующих, но и объектом атак. Уже зафиксированы инциденты, связанные с уязвимостями и компрометацией ИИ-систем — от атак на инфраструктуру DeepSeek до утечек данных из западных LLM-платформ. Отдельные риски связаны с неконтролируемым применением ИИ внутри самих компаний. 2️⃣ Кто проигрывает атакующим с ИИ? Традиционно первыми проигрывают те, у кого ИБ — формальность. Следом — специалисты, которые не рассматривают ИИ как угрозу и без ограничений разрешают использование ИИ-систем внутри компании. В среде AppSec/DevSecOps даже родилась шутка: скоро работа сведется к тому, чтобы отследить, «таскает» разработчик код из ИИ или нет. 3️⃣ Что работает против ИИ-атак? Решения, развиваемые внутри отечественного рынка, всё чаще по качеству сопоставимы или выше в сравнении с зарубежными аналогами. Они обучаются на релевантных данных и отражают реальные условия эксплуатации. 4️⃣ Как безопасно внедрять ИИ в защиту? Во-первых, LLM должна быть жестко ограничена корпоративным цифровым контуром. Во-вторых, желательно, чтобы модель разрабатывалась внутри самой компании. Допустим и сторонним разработчиком, но он должен быть российским. В-третьих, важно соблюдать стандарты внедрения ИИ, которые уже существуют. Это, например, рекомендации Сбера и Яндекса, а также известный всем OWASP TOP 10 LLM. 5️⃣ Как измерить пользу от ИИ? Показательными будут метрики количества инцидентов в сочетании с интегральной оценкой уровня зрелости ИБ компании. 6️⃣ Что ждет рынок ИБ в ближайшие два года? Теперь ИБ-специалистам нужно контролировать, как в компании применяют ИИ, и оценивать эти риски. В части процессов ИИ уже неплохо автоматизирует «бумажную безопасность» — регламенты и политики. Я рекомендую включить ИИ в модель угроз и держать его в фокусе внимания. Ожидаю рост спроса на специалистов по безопасности разработки ИИ-решений. #ИБ Telegram | TenChat | MAX