«Подростковый возраст технологий»: эссе от основателя Anthropic про риски AI Основатель AI-стартапа Anthropic Дарио Амодей выпустил огромное эссе про будущее AI. А точнее про то, какие риски несет искусственный интеллект и как этим рискам противостоять и их преодолевать. Чувствуется, сил на это эссе он потратил прилично. 📝The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI Эссе внушительное. За пять минут его не прочитаешь, в одном посте не перескажешь. Так что это вам (и мне) для вдумчивого чтения. Но вот Business Insider сделал подборку интересных мыслей из этого эссе. Кратко приведу вам их, чтобы вы понимали, о чем там речь. 📌Развитие AI — это серьезной вызов для цивилизации. Но это развитие уже не оставить, потому что преимущества слишком велики. И Амодей считает, что гонку за AI нужно выигрывать, но делать это максимально этичным образом и не толкать свой AI всем подряд. «Это все равно что продать ядерное оружие Северной Корее, а потом хвастаться, что корпуса ракет изготовлены Boeing, и поэтому США “побеждают”» И Амодей против того, чтобы США продавала Китаю передовые AI-чипы. «Нет никаких причин давать гигантский импульс их индустрии искусственного интеллекта в этот критический период». 📌Еще, как пишет Амодей, технологическая элита создала искусственный интеллект, а теперь должна помочь обществу с ним справиться. Речь про то, что AI будет отнимать работу у людей. В эссе есть и про благотворительность со стороны миллиардеров и про то, что компании должны креативно подходить к тому, как предотвращать увольнения. Например, платить людям, даже если они перестали приносить экономическую выгоду в традиционном смысле. 📌Прошелся по xAI Илона Маска, хотя напрямую не назвал. «Некоторые компании, занимающиеся искусственным интеллектом, продемонстрировали тревожную халатность в отношении сексуализации детей в современных моделях, что заставляет меня сомневаться в том, что они проявят склонность или способность решать проблемы автономности в будущих моделях». 📌Про безопасность в эпоху AI. Мол, есть риск, что модели могут перестать подчиняться человеку или даже попытаются уничтожить человечество. Типа есть ответственные компании, которые осознают риски, ведут прозрачную деятельность. А есть недобросовестные, и как там у них все устроено, черт знает. И вообще если не озаботиться мерами безопасности, то есть риск, что AI может помочь обычному человеку создать биологическое оружие. Вроде как модели по своему уровню развития сейчас близки к таким возможностям. И надо бы это как-то предотвратить. 📌И надо бы уже на законодательном уровне весь этот AI как-то описать, систематизировать и так далее. Амодей считает, что быстрый прогресс в области AI может создать ситуации, с которыми существующие правовые рамки не в состоянии справиться. «Я бы поддержал законодательство, ориентированное на гражданские свободы (или даже поправку к Конституции), которое вводит более строгие меры защиты от злоупотреблений с использованием