Эпичная ярость ИИ и школа девочек в Иране Удар по иранской школе, в котором погибло больше 100 школьниц, с высокой вероятностью был нанесен американскими военными по наводке ИИ-системы. За первые сутки «Эпичной Ярости» Пентагон ударил по 1000 целей, сотни из которых выбрала ИИ-система Maven от Palantir, работавшая на чатботе от Anthropic. Школа девочек в Минабе оказалась среди первых целей, из-за чего эксперты считают, что ее выбрал именно ИИ. Я писал, что за считанные часы до начала Эпичной Ярости Пентагон заявил об остановке сотрудничества с Anthropic. Но так как Пентагону понадобится до 6 месяцев, чтобы полностью отказаться от ИИ и инженеров Anthropic, системы компании все же помогали выбирать цели в Иране. Раскрутка истории с ударом по школе будет еще сильнее дискредитировать якобы этичный Anthropic, которому администрация Трампа объявила репутационную войну. Симуляции исследователей уже показали, что Claude действительно может советовать удары по школе, пускай и в качестве ошибки. В 1990-х американские военные разработали концепцию «цепочки поражения» (kill chain), состояющую из 6 этапов, на которых военные ищут, уточняют, отслеживают, целятся, поражают и оценивают результат удара. Эта концепция позволила ускорить процесс принятия решений о целях и ударах по ним. И все же скорость «цепочки поражения» ограничена человеческим умом. Эпичная Ярость стала первой операцией США, в которой военные перешли к концепции «сети поражения», где цели определяет сверхбыстрый ИИ, а человеку остается только одобрить выбранную ИИ цель. Скандал Пентагона с Anthropic, отказавшимся участвовать в «создании автономных роботов убийц», показывает: все идет к тому, что решения об уничтожении станут эксклюзивным правом ИИ. Думаю одним из главных аргументов в пользу такого расклада станет то, что так безопаснее для тех, кого бомбят. В конце 2010-х я писал о психологическом давлении, испытываемом людьми, которых на работу принимают ИИ-рекрутеры. Возмущался тем, что люди зависят от банковского ИИ, учитывающего даже уровень заряда телефона клиента, прежде чем решить, выдавать ли ему кредит. Это были беззаботные времена. Теперь наши жизни зависят от ИИ-галлюцинаций.