10 документальных фильмов об угрозах и будущем ИИ Сегодня в #mbaнавыходных поговорим о рисках ИИ. Что опаснее, ядерное оружие или искусственный интеллект, который может стать умнее всех людей на планете? Бомбу хотя бы можно не запускать, а вот ИИ, способный к рекурсивному самообучению, остановить будет невозможно, он будет совершенствоваться быстрее, чем мы успеем понять, что происходит. Давайте разберемся. 1. "Do You Trust This Computer?" (2018) Этот фильм хорошая точка входа в проблему, он прямо задает вопрос о доверии к технологии, которая скоро может превзойти нас. В фильме участвуют Илон Маск и другие ключевые фигуры, которые предупреждают о рисках сверхинтеллекта. Фильм посвящен Стивену Хокингу, который также бил тревогу. 2. "The Social Dilemma" (2020) Постоянный завсегдатай моих подборок, и хотя фильм сфокусирован на социальных сетях, его суть в разрушительном влиянии алгоритмов на общество. Он наглядно показывает, как ИИ, оптимизированный для удержания нашего внимания, уже сегодня манипулирует нашим поведением, поляризует общество и подрывает демократию. 3. "iHuman" (2019) Настоящий политический триллер о гонке вооружений в сфере ИИ. Фильм дает доступ к ведущим разработчикам (включая Илью Суцкевера) и показывает, как технология используется для социального контроля, слежки и ведения войн. Он задает неудобный вопрос, а кто на самом деле контролирует ИИ? 4. "AlphaGo" (2017) История о том, как программа DeepMind победила чемпиона мира по игре в Го. Документация момента, когда ИИ продемонстрировал нечеловеческую интуицию, сделав ход, который ни один человек не мог предвидеть. Это точка, после которой разговоры о сверхинтеллекте перестали быть гипотетическими. 5. "Coded Bias" (2020) Фильм вскрывает одну из самых насущных проблем ИИ, его предвзятость, заложенную в алгоритмах. Исследовательница MIT обнаруживает, что системы распознавания лиц не могут корректно идентифицировать женщин и темнокожих людей. 6. "In the Age of AI" (2019) Документальный фильм от FRONTLINE, который исследует как перспективы, так и опасности ИИ от влияния на рабочие места и частную жизнь до геополитического соперничества между США и Китаем. Отличный обзор ландшафта угроз. 7. "The Great Hack" (2019) Фильм показывает, как данные, являющиеся топливом для ИИ, были использованы для манипуляции выборами. Напоминание о том, что самая большая угроза может исходить не от будущего сверхинтеллекта, а от того, как мы используем уже существующие технологии. 8. "Lo and Behold, Reveries of the Connected World" (2016) Легендарный режиссер Вернер Херцог размышляет об экзистенциальном влиянии интернета и ИИ на человечество. Это не столько технический анализ, сколько философское эссе о том, как технологии меняют нашу душу. 9. "We Need to Talk About A.I." (2020) Фильм, который собирает мнения экспертов, ученых и футурологов, чтобы обсудить главный вопрос, а не создаем ли мы нечто, что не сможем контролировать? Хороший срез мнений по всей палитре, от утопии до апокалипсиса. 10. "The A.I. Dilemma" (2023) Это не совсем фильм, а запись ключевой презентации от создателей "The Social Dilemma" Тристана Харриса и Азы Раскина. Они утверждают, что мы уже пересекли черту, и существующие возможности ИИ представляют катастрофический риск для общества. Обязательно к просмотру. Бонус, 3 TED-выступления 1. Nick Bostrom: "Что произойдет, когда компьютеры станут умнее нас?" 2. Sam Altman: "The future of AI and humanity" 3. Zeynep Tufekci: "Машинный интеллект делает человеческую мораль важнее" Как по мне, самая большая угроза ИИ это не восстание машин, а наша собственная пассивность. Мы делегировали разговор о будущем технологий узкому кругу инженеров и инвесторов, которые движимы скоростью и прибылью, а не долгосрочной безопасностью. Но решения, которые принимаются сегодня в Кремниевой долине, Пекине и Лондоне, касаются всех нас, нашей работы, нашей свободы, нашего будущего. Вопрос не в том, остановить ли ИИ, а в том, как сделать его развитие управляемым, прозрачным и под