На днях мы провели совместное мероприятие с Ассоциацией менеджеров России про использование искусственного интеллекта в корпоративных процессах. И самым содержательным для меня оказалось выступление коллег из Positive Technologies. Записала для себя несколько вещей, которые на практике оказываются важнее всех разговоров про модели и возможности: 0/ ИИ не внедряется «на всякий случай». Если нет точного ответа, какую задачу ИИ решает, дальше начинается имитация работы и рост рисков. 1/ Самое важное не модели, а данные. Нет нормальных данных - не будет результата. Есть лишние данные - будет проблема. 2/ ИИ почти всегда получает больше доступа, чем вы думаете. И часто это становится видно только постфактум. 3/ Есть отдельный класс атак, когда в данные или промпты зашиваются скрытые инструкции, и модель начинает выполнять чужую логику. 4/ Ошибки - это не баг, а свойство системы. LLM по определению работает вероятностно. 5/ Запреты не работают. Люди все равно используют ИИ. Фото сделают и загрузят, файлы перекинут, их не остановишь. Вопрос только в том, делает ли это компания управляемо и защищенно или закрывает на это глаза. 6/ ИИ не должен принимать финальные решения в критичных аспектах. Он может ускорять, помогать, считать, предлагать. Но ответственность и последний шаг остаются у человека. 7/ У любого кейса должен быть владелец и красная кнопка, а с ней и возможность остановить систему, если она начинает давать сбой. 8/ Классификация данных становится базовой управленческой практикой. - Что можно отправлять во внешние модели. - Что только во внутренние. - Что вообще никуда не выходит. 9/ Конфиденциальность в публичных моделях - это допущение, а не гарантия. И кейсы, когда через ИИ вытаскивали данные компаний, уже есть. 10/ Безопасность нельзя «добавить потом». Если об этом не подумали на старте, дальше это всегда дороже и сложнее. И финально оставлю вопросы, которые там прозвучали: Можете ли вы сейчас ответить: • какие данные у вас можно загружать в ИИ и какие нет? • где он принимает решения сам? • кто может его отключить? • какие сервисы разрешены? • и кто отвечает за результат? Если нет, значит внедрение еще не началось. А на видео Наташа рекламирует мой канал, который вы сейчас читаете)) @kiralapiname #технологИИ #ИИвработеруководителя #проуправление