Анализ текущего состояния использования искусственного интеллекта во вредоносных программах • Исследователи Unit 42 искали признаки вредоносного ПО, созданного с помощью больших языковых моделей (LLM). • Рассматриваются три основных варианта использования ИИ: создание вредоносных программ, удаленное принятие решений, локальные решения. • Подразделение 42 анализировало ПО, созданное с помощью ИИ и управляемое системой управления ИИ для удаленного принятия решений. • Пример вредоносного ПО, интегрирующего функциональность с OpenAI GPT-3.5-Turbo через HTTP API. • Интеграция позволяет менее квалифицированным злоумышленникам взаимодействовать с зараженной средой. • Реализация интеграции с OpenAI плохо и не полностью функциональна. • Вредоносная программа собирает и отправляет данные на сервер C2, но LLM не влияет на её работу. • Средство удаления вредоносных программ, использующее LLM для оценки системы и принятия решения о заражении. • Первоначально образец был ошибочно идентифицирован как Sliver. • Клиенты Palo Alto Networks защищены от угроз с помощью продуктов и услуг, таких как Усовершенствованное предотвращение угроз и КСИАМ. • Оценка способствует безопасному использованию и разработке ИИ. • В случае компрометации рекомендуется связаться с Группой реагирования на инциденты подразделения 42. Autotext: 300.ya.ru https://unit42.paloaltonetworks.com/ai-use-in-malware