Опубликована первая версия проекта Кодекса практик по обеспечению прозрачности синтетического контента Друзья, что мы больше всего любим на этом канале? Правильно – кодексы практик 🤩. Не успели мы отойти от Кодекса практик для ИИ общего назначения, а уже на подходе новый документ – Кодекс практик по обеспечению прозрачности контента, созданного с помощью ИИ (Code of Practice on Transparency of AI-Generated Content). Отдельно отмечу, что это пока что лишь первый драфт, финальный документ мы увидим ближе к лету. Что это за кодекс? Статья 50 Регламента ЕС по ИИ возлагает на Европейский AI Office обязанность по разработке кодексов практик, которые помогают операторам систем и моделей ИИ соблюдать законодательные требования. В данном случае кодекс направлен на соблюдение требований главы VI Регламента о прозрачности для отдельных операторов систем и моделей ИИ. Из чего состоит кодекс? Документ состоит из двух разделов: первый – для поставщиков, второй – для эксплуатантов, что позволяет совмещать разные технические и визуальные требования внутри всей цепочки поставки. Раздел 1: Правила для поставщиков (providers) систем ИИ Главная цель – внедрить машиночитаемую маркировку и обеспечить детектируемость синтетического контента. Основные обязательства: - Поставщики должны внедрить многоуровневую маркировку: метаданные с цифровой подписью, водяные знаки, фингерпринтинг/логирование. Маркировка должна фиксировать всю цепочку происхождения контента (provenance chain) – от полностью созданного системами ИИ до частично обработанного с помощью систем ИИ. Для открытых моделей маркировка внедряется на уровне параметров модели. - Дополнительно внедряются методы форензического обнаружения (механизмы, определяющие генерацию даже без активной маркировки, анализируя артефакты генерации). - Поставщики должны предоставлять бесплатные инструменты верификации (API/интерфейсы) и запрещать удаление маркировки в своих политиках. Также требуется тестирование методов в реальных условиях и обучение персонала. Раздел 2: Правила для эксплуатантов (deployers) систем ИИ Главная цель – сделать дипфейки и сгенерированный текст, опубликованный с целью информирования общественности, легко распознаваемыми для граждан. Основные обязательства: - Эксплуатанты должны ставить видимую метку на контенте. Кодекс вводит двухуровневую классификацию контента: полностью сгенерированный (fully AI-generated) и ИИ-ассистированный (AI-assisted). - Пока единая метка ЕС не выработана – используется аббревиатура на языках стран-членов (AI, KI, IA). В перспективе должна быть создана интерактивная иконка с информацией о том, что именно сгенерировано. В скриншотах можно посмотреть, какие примеры рассматриваются рабочими группами. - Для дипфейков критерии зависят от модальности: постоянная иконка для видео, звуковой дисклеймер для аудио, неинтрузивное размещение для художественных произведений. Важное исключение для текстов: если контент прошел человеческий редакторский контроль и за публикацию несет ответственность конкретное лицо, а видимая маркировка не требуется.