Посмотрела новую работу Бекмамбетова. Если отбросить художественные вымыслы и всё, что «ради картинки», то автор серьёзно поработал над смыслами. Я увидела несколько интересных вопросов, назовём их дилеммами. Дилемма №1: «Иллюзия Азимова» В фильме процессы доказательства вины и исполнения приговора разделены. ИИ не «убивает», он лишь не опровергает обвинение и таким образом выносит вердикт. На лицо обход Первого закона робототехники: машина остается чистой, а человек превращается в прокси-палача, просто легитимизируя её решения. Насколько осознанна и проверяема эта легитимизация? Большой вопрос без ответа. Субъектность человека используется практически вслепую (перепроверка выводов машины на основании таких объёмов данных заняло бы в человеческом измерении годы). И ограничений на легитимизацию решений нет. У нас, кстати, тоже. И нужно об этом подумать. Дилемма №2: «Математическая правда» Ошибается ли ИИ, если человек не предоставил/скрыл всего одно (но оправдательное) доказательство? С точки зрения математики — нет, алгоритм отработал безупречно на предоставленных данных. Но с точки зрения правосудия это катастрофа. Проблема не в заблуждениях системы, а в процессуальной безответственности. Она позволительна на этапе сбора данных, а значит всегда может быть использована для математического заблуждения. Дилемма №3: «Цифровой фатализм» В фильме все данные собираются в муниципальных облаках. Считается, что это полная информация о человеке. Но когда ИИ судит по данным из облаков, он игнорирует контекст, который не оцифрован. Мы рискуем создать правосудие, где «цифровая личность» живее и важнее человека. И это не всё… В общем, на мой взгляд, весьма годный контент. P.S. В 2023 году Тимур Бекмамбетов приезжал в наш МИИЦР и консультировался по вопросам Big Data для подготовки сценария. Как видно, именно к этому фильму. Вот так вот профессиональные дискуссии обретают художественную форму. Агрегатор конструктивной мысли!