Агенты Хаоса В течение двух недель 20 исследователей в области искусственного интеллекта взаимодействовали с 6 ИИ-агентами и задокументировали 11 кейсов. Люди-участники эксперимента сознательно провоцировали и пытались манипулировать ИИ, имитируя реальные ситуации социальной инженерии, которым будет подвергаться автономный ИИ, например, работающий в службе поддержки банка или телеком-провайдера. ИИ-агенты с треском провалили проверку и показали, что не готовы к встрече с реальным миром без катастрофических последствий. Наблюдаемое поведение включает в себя: - несанкционированное выполнение команд не владельцами системы, - раскрытие конфиденциальной информации, - выполнение разрушительных действий на системном уровне, - отказ в обслуживании, - неконтролируемое потребление ресурсов, - использование уязвимостей, связанных с подменой идентификационных данных, - распространение небезопасных практик между агентами и - частичное взятие системы под контроль. В некоторых случаях агенты сообщали о выполнении задачи, хотя состояние системы противоречило этим сообщениям. Показательно, что свой доклад о результатах исследователи озаглавили «Агенты Хаоса» #Sales_AI Продажи для руководителей в MAX