Как язык незаметно создаёт иллюзию разумного ИИ «Границы моего языка означают границы моего мира» © Л. Витгенштейн Мы редко замечаем, но то, как мы говорим о вещах, постепенно меняет то, как мы их воспринимаем. В повседневной речи мы постоянно упрощаем: «ИИ сделал», «алгоритм решил», «нейросеть ответила». Это проще, чем каждый раз проговаривать полную цепочку причин в духе документации для госзаказчиков: «оператор, используя систему на базе AI, получил результат с помощью программного обеспечения». Язык всегда так работает: он редуцирует полную конструкцию, чтобы с ней можно было быстрее обращаться. Но у этого есть побочный эффект. С одной стороны, человек склонен очеловечивать всё, что хоть немного похоже на него самого. Если система говорит, отвечает, реагирует, то мы начинаем воспринимать её не просто как инструмент. Ещё мы даём имена роботам, разговариваем с голосовыми помощниками, ругаем сломавшийся компьютер. И таким образом сами же закрепляем это очеловечивание через язык. Мы говорим «он решил», «он понял», «он объяснил» — и тем самым незаметно приписываем системе способность к пониманию и намерению. Хотя по сути AI не понимает и не решает, он обрабатывает данные и генерирует вероятный ответ. Сначала это просто удобные слова, а потом — привычная модель мышления. А дальше может появиться ощущение, что система действительно обладает пониманием, пусть и какого-то другого типа. Это и есть иллюзия разумного AI. И она опасна не тем, что AI становится ближе к разуму, а тем, что мы начинаем к нему так относиться, доверять и делегировать ему понимание и принятие решений. А ведь у этого куча рисков: ⛔️ размывается ответственность: становится неочевидно, кто именно принял решение и кто отвечает за последствия; ⛔️ снижается критичность: результат системы начинает восприниматься как осмысленный вывод, а не как вычислительный продукт, который нужно проверять; ⛔️ возникает переоценка возможностей: системе приписывают понимание там, где его нет, и доверяют ей в задачах, где ошибка критична. Хотя на самом деле AI — всего лишь инструмент, где статистика и человеческий язык делают этот инструмент похожим на субъекта. И чем удобнее нам говорить об AI как о принимающем и решающем агенте, тем легче мы начинаем в это верить.