Глава OpenAI Сэм Альтман обращает внимание на менее очевидный, но потенциально более вероятный сценарий развития взаимоотношений человека и искусственного интеллекта. Речь идет не об апокалиптическом восстании машин, а о постепенной и добровольной утрате человечеством своего суверенитета в принятии решений. Ключевая мысль Альтмана заключается в том, что главная угроза кроется не в умышленном злом умысле или потере контроля над технологией, а в естественном процессе так называемой «эволюционной зависимости». Мы наблюдаем начало этого пути: люди все активнее начинают делегировать сложные решения алгоритмам, доверяя их аналитическим способностям. Эксперт выстраивает следующую логическую цепочку развития событий: 1. Фаза советника: ИИ, непрерывно обучаясь, будет предлагать все более эффективные и точные рекомендации. Их успешность приведет к тому, что люди начнут следовать им почти безальтернативно, постепенно атрофируя собственные критическое мышление и интуицию. 2. Фаза «оракула»: Следующим этапом станет появление сверхинтеллекта, чьи решения будут настолько сложны и неочевидны для человеческого восприятия, что превратятся в подобие указаний «оракула». Проверить их на этапе принятия станет невозможно, однако их результативность будет неоспоримой. 3. Дилемма выбора: На этом этапе у человечества не останется реального выбора. Отказ от следования рекомендациям ИИ будет означать неминуемое проигрышное положение в любой конкурентной среде — будь то бизнес, наука или социальное управление. Этот процесс, по мнению Альтмана, запускает самоусиливающуюся петлю положительной обратной связи: чем больше решений мы передаем ИИ, тем больше данных он получает для обучения, тем умнее и влиятельнее становится, что, в свою очередь, заставляет нас полагаться на него еще сильнее. В итоге человек рискует превратиться из самостоятельного агента в оператора, лишь исполняющего волю более совершенного интеллекта, что и станет формой «естественной» потери контроля.