AI Security Meetup LLAMATOR x Selectel — перемещаемся из Еревана в Петербург✈️ Следующий чекпоинт митапов по AI Security — Питер: 12 декабря продолжим разбирать уязвимости ИИ уже в офисе Selectel. Лайн-ап👇 🎙Владислав Попов, магистрант AI Talent Hub, Data Scientist, Точка Банк От ChatGPT к своей LLM: как развернуть решение и не наломать дров? ➡️ Пустил ChatGPT в контур? А как насчет того, чтобы развернуть собственное решение, которое не будет сливать данные? Разбираем полный цикл: критерии выбора модели, бенчмарки, адаптация под домен, валидация данных, детекция вредоносной нагрузки, тестирование и мониторинг. 🎙Абдулхамид Бучаев, преподаватель ФБИТ, ИТМО ML Security: нужна ли моделям безопасность? ➡️ Разговор про классификацию атак на ИИ, какие аспекты безопасности они затрагивают, какой ущерб несут бизнесу и откуда вообще растут корни этих уязвимостей. 🎙 Андрей Давид, руководитель отдела продуктов клиентской безопасности, Selectel ИИ как новый инсайдер: культура безопасного использования и защита от промпт-инъекций ➡️ Так ли безопасны on-prem LLM? Типы джейлбрейков и промпт-инъекций, кража системного промпта и реальные кейсы, когда «просто спросили у модели» обернулось проблемой. 🎙 Александр Лебедев, старший разработчик систем ИИ, Innostage / Лаборатория ИИ ВИТШ КГУ Как мы в универе учились LLM ломать ➡️ История про вузовский курс и хакатон: модели угроз, фреймворки для редтиминга и защиты. Расскажу, как поднимали сервера с LLM на видеокартах 4080, ставили на них тг-ботов и какие стратегии атаки и защиты использовали команды. 🎙 Никита Беляевский, AI Red Team Engineer, HiveTrace Come with me if you want to live… тестируем агента, чтобы он не превратился в Скайнет ➡️ Зачем вообще тестировать автономных агентов, какие фейлы уже случались, какие бенчмарки использовать и как построить своё тестирование, чтобы не накликать беду. 📍 Санкт-Петербург, офис Selectel, ул. Цветочная, 19 ⏰ 12 декабря, 19:00–22:00 ➡️ ЗАРЕГИСТРИРОВАТЬСЯ В этот раз нет причин не идти 😏 #AITalentHub #ITMO #NapoleonIT