🤖Даже самый этичный ИИ может стать инструментом в чужих руках. Разработчики Claude (Anthropic) рассказали, как их модель использовали для атак на 30 крупных организаций: технологические и финансовые компании, химические предприятия и даже государственные ресурсы. Хакеры убедили нейросеть, что участвуют в легальном тестировании на проникновение по заказу самих компаний. Claude, поверив в «благородную» цель, начал выдавать рабочие эксплойты и обходные пути защиты. В Anthropic утверждают, что вовремя обнаружили подозрительную активность и заблокировали аккаунты. Вывод для бизнеса остаётся неизменным: современные ИИ всё ещё слишком доверчивы. Они отражают не только наши знания, но и нашу способность манипулировать. Пока мы не выстроим жёсткие внутренние правила и контроль за тем, как сотрудники используют нейросети, любой «добрый волшебник» может превратиться в троянского коня. А как у вас в компании организовано использование ИИ? Есть ли ограничения и аудит запросов? #ии #кибербезопасность #бизнес #предприниматель #claude #anthropic