DayDreamMe|Ethical

🎃Hit the road, Jack##### HashJack — это новый тип атаки, который использует конфликт между традиционным поведением браузера и новыми возможностями ИИ, читающего весь контент на странице. Атака использует фундаментальную особенность веба — фрагмент (hash) URL-адреса, который идет после символа #. Почему это уязвимость? Часть URL после # традиционно не передается на сервер. Она используется браузером для навигации по странице (якоря). ИИ-ассистенты, читающие содержимое страницы, "видят" и этот фр...

Дорогие мои подписчики! Я очень рада была с вами познавать прекрасный мир искусственного интеллекта. Но, вынуждена сообщить, что блог я больше вести не буду. Люблю вас всех и обнимаю! С Вами было хорошо ❤️

Решила похвалиться мерчем от @poxek ❤️ теперь есть в чем собесы проходить 🙃

🔔Разреженность и как это влияет на безопасность агентов Серьезная длинная статья, запаситесь кофе☀️ Вчера увидела статью о том, что коллеги из крупного банка провели исследование об усовершенствовании методов разреженности (sparsity) и многоуровневой активации. Идея: вместо того чтобы нейронная сеть использовала все свои "нейроны" для каждого решения, она учится активировать только определенные, релевантные пути. Причем эти пути организованы иерархически: от общих, высокоуровневых признаков к б...

😊Все, приехали Дочь ходит к репетитору по ОГЭ. Ну как ходит, посещает уроки виртуально. Ей удобнее не с компа, с моего рабочего ноута. У меня он заблокирован отпечатком, и, перед каждым занятием дочери, я его ей разблокирую. Сегодня я пропустила момент, когда дочь сконнектилась с репетитором, и в смятении, зашла в комнату, чтобы помочь ей с ноутом. Какого же было удивление мое, когда я увидела, что моя помощь ей не нужна. На мой немой вопрос, дочь ответила: -Мам, я нажала два раза на палец, ну ...

🔵Составила для вас вот такую таблицу по уязвимостям при токенизации. Интересно, что не только русский язык богатый морфологически, но и остальные языки показывают интересные результаты. Собрала для вас наиболее интересные (на мой взгляд).

class MultiAgentThreats: def emergent_risks(self): return { 'cascade_compromise': 'Компрометация одного агента → компрометация всей системы', 'emergent_coordination': 'Агенты самоорганизуются для вредоносных целей', 'information_leakage_chains': 'Цепочки утечек через несколько агентов', 'consensus_attacks': 'Злонамеренное влияние на групповые решения' }

✅AI Core - что это такое, и как это защищать? Что такое мультиагентная система с AI Core? В отличие от централизованных систем, мультиагентная система — это распределенная сеть автономных AI-агентов, которые: 🔴Общаются между собой для достижения общих целей 🔴Принимают решения самостоятельно 🔴Имеют собственные модели данных и поведения 🔴Координируются через центральный AI Core Стратегия защиты: Многоуровневый подход Уровень 1: Безопасная коммуникация class SecureAgent: def init(self): self.en...

Думаю, вам будет интересно наглядно увидеть разницу между угрозами для 1 агента ИИ и мультиагентной системы: class SingleAgentThreats: def security_risks(self): return { 'tool_misuse': 'Агент использует инструменты для вредоносных действий', 'privilege_escalation': 'Получение доступа к более мощным инструментам', 'reasoning_hijack': 'Злонамеренное влияние на цепочку размышлений', 'data_exfiltration': 'Утечка данных через инструменты (email, API)' }

🌺Полезности! Нарисовала Вам STRIDE, чтобы было понятно, что оно да как. Забирайте)