Скандал вокруг Grok — это пример того, как отсутствие базовых ограничений на уровне архитектуры продукта превращает платформу в инструмент системного насилия. Почти каждый год у X новый «скандал» (да, Илон Маск снова навалил кринжа), и я вижу в этом систему. На этот раз это ИИ‑чатбот Grok, встроенный в платформу, который по запросу пользователей создавал сексуализированные изображения женщин и детей без их согласия. В том числе на основе реальных фотографий и с участием несовершеннолетних. То есть алгоритмы позволяют генерировать сексуализированные изображения женщин и девочек без их согласия. И это не похоже не баг или случайность. Это незаконный контент, который в большинстве юрисдикций подпадает под уголовку. Жалкие попытки Х переложить ответственность за незаконный контент на пользователей выглядят смешно и нелепо. И уж тем более не освобождают его от ответственности. Кстати, впервые за долгое время реакция властей была не вялая. Франция передала материалы прокурору. А Великобритания требует объяснений, как Grok вообще оказался способен на такое. И это действительно тот редкий случай, когда государства говорят с платформой языком обязанностей, а не просьб «УДОЛИ». А Илон Маск продолжает позориться в интернете. Сначала ответ в стиле «Legacy media lies». Затем реакции смеющимся смайликом. Мы тут не говорим о запрете ИИ. Мы говорим о последствиях. Кто платит цену за «свободу платформы»? Женщины и девочки, чьи изображения могут быть сексуализированы в любой момент. Другие ИИ-системы (OpenAI, Google, Meta) запрещают не-консенсуальные deepfake‑изображения. Grok — нет. Потому что он спроектирован иначе. Потому что веселье оказалось важнее безопасности. Главное из этой истории то, что алгоритмическое насилие становится новой нормой, если политические и правовые институты не вмешиваются. Вопрос уже не в том, нужно ли регулировать ИИ, а в том, как долго мы будем позволять крупным технологическим компаниям игнорировать законы и стандарты прав человека под видом «свободы слова».