СЛИШКОМ СВОБОДНЫЕ АГЕНТЫ #ИИ #USA ИИ-агенты усиливают корпоративные риски. Об этом на днях исследователи Массачусетского технологического института по итогам 62 опросов руководителей в сфере технологий. Авторы выделили два типа рисков генеративного ИИ: встроенные и реализованные. Встроенные риски связаны с качеством обучающих данных, поведением базовых моделей и обновлениями поставщиков и находятся вне полного контроля компаний. Реализованные риски возникают из решений по внедрению - от формулировки пользовательских и системных промптов до настроек доступа агентов. Многие сценарии используют внутренние данные и могут раскрывать конфиденциальную информацию и превышать полномочия. Автономные агенты, действующие без вмешательства человека, создают риск «ползучей автономии» (autonomy creep), когда задачи расширяются без должного надзора. Для снижения угроз рекомендуется инвентаризация всех ИИ-инструментов, разграничение типов рисков и закрепление ответственности. T.ly/nQvlY