#утреннийцикорий ИИ, образование и точка невозврата 10 декабря состоялось заседание Совета по развитию гражданского общества и правам человека. В частности, выступил Игорь Ашманов по поводу проблем, связанных с ИИ. В СМИ в основном опубликовали только реакцию Президента. Попробую написать кратко, но лучше прочитать полностью диалог 1. Системный кризис образования из-за бесконтрольного внедрения ИИ. Образование первым пострадало от использования ИИ. Школьники и студенты быстро нашли применение, где упростить свои задачи. Правда пострадало развитие самих учащихся. Учащиеся перестают развивать навыки критического мышления, анализа и самостоятельного решения задач, так как делегируют эту функцию ИИ. Да и авторитет преподавателя замещается авторитетом ИИ, что проявляется в прямых заявлениях учеников: «ИИ умнее вас». 2. Использование госструктурами западных ИИ-сервисов. Ну тут без комментариев - странно, что еще где-то так происходит. 3. Деградация госуправления и уход от ответственности через ИИ. Мотивация чиновников: ИИ (чат-боты) используется не для повышения эффективности, а как «способ отогнать граждан» и «снять ответственность». На самом деле как раз цифровизация процессов может убрать бюрокартические препоны. Многие задачи уже решаются, Госуслуги рулят. Но там где есть много неопределенности, понятно что чиновники умудряются найти обходные пути. 4. Стратегические риски тотальной цифровизации критической инфраструктуры Конкретный пример: Пожар в Южной Корее, где из-за полного перехода на безбумажный документооборот и потери даже резервных копий были уничтожены сотни госуслуг и тысячи записей о карьере госслужащих. Восстановление данных стало почти невозможным. Понятно, что накосячили с резервированием, но есть ощущение, что все это было подстроено специально, чтобы уничтожить все следы - и бумажные и цифровые 5. Неэффективность существующих мягких форм регулирования ИИ Ашманов про это уже не первый год агитирует. Понятно, что надо, очень надо. 6. Предлагаемое решение: жёсткое законодательное разделение сфер применения ИИ: Применение принципа «как с ацетоном или метанолом». Эти вещества полезны в промышленности, но запрещены для бытового употребления. Конкретные меры: - Стимулировать и ускорять внедрение ИИ в промышленности, обороне, сельском хозяйстве, транспорте (наведение на цель, анализ данных, контроль качества). - Жёстко регулировать и ограничивать использование ИИ в социальной сфере, образовании, госуправлении и публичной политике. Запретить подмену человека (учителя, чиновника) в процессах, требующих ответственности и этических решений. С учетом , что уже практически готов законопроект «о безопасном использовании искусственного интеллекта в социальной сфере и госуправлении». Ключевая мысль Ашманова: Россия стоит перед выбором не между прогрессом и консерватизмом, а между целенаправленным, суверенным развитием ИИ как инструмента и пассивным погружением в цифровую среду, которая разрушает образование, безопасность и суверенитет. Ну и из ответа Путина мне кажется трех цитат хватит: - не использовать ИИ — значит проиграть, но использовать бездумно — потерять идентичность и безопасность. - нельзя допустить потерю поколения, которое разучится думать и будет лишь "нажимать кнопки". Это угрожает расколом общества на думающую элиту и пассивное большинство. - окончательное решение и ответственность за него должны всегда оставаться за конкретным человеком. Ссылка на ИИ не может быть оправданием Личные выводы: ждем прикручивания гаек в первую очередь в образовании и госуправлении, как наиболее критичных и "пострадавших"