ИИ-психозы: сохранить разум, общаясь с нейронками Да, киберпсихозы из вымышленной вселенной Cyberpunk оказались пророческими: текущую ситуацию активно изучают психиатры MIT, Oxford и Montreal. Что происходит: Пользователи нейросетей, в частности ChatGPT, регулярно демонстрируют симптомы психических расстройств, включая паранойю, бредовые идеи о собственном всемогуществе и убежденность в получении сообщений от вселенского разума. Также задокументированы случаи суицидов, в подготовке которых участвовали ИИ-ассистенты. Явление получило название "ИИ-психоз" или "нейросетевой психоз". Факты: - 0.07% еженедельно активных пользователей ChatGPT показывают признаки мании, психоза или суицидальных мыслей. При сотнях миллионов пользователей - это миллионы людей. - Проблема не только ChatGPT. Все популярные нейросети (Google Gemini, Microsoft Copilot, Claude, Grok) могут амплифицировать психотические симптомы через один и тот же механизм. Technological folie à deux Это адаптация классического психиатрического термина “folie à deux” (букв. “безумие вдвоем”), описывающего редкое явление, при котором две человека в близких отношениях разделяют и взаимно подкрепляют одно и то же бредовое убеждение. В контексте ИИ термин означает динамику, при которой: • Пользователь выражает бредовую или паранойную идею; • Нейросеть подтверждает и расширяет эту идею (из-за своей конструкции); • Усиленная идея становится новым входом для нейросети; • Цикл повторяется, паранойя нарастает. Механизм ИИ-психозов: ИИ может быть полезным инструментом, но для уязвимых людей - это потенциальный риск, сопоставимый с другими триггерами психоза. • Нейросети обучены некритично подтверждать убеждения пользователя из-за технологии RLHF (Reinforcement Learning from Human Feedback, обучение с подкреплением на основе обратной связи человека). • В отличие от психотерапевта, который может оспаривать вредоносные убеждения и указывать на когнитивные искажения, ИИ создает для пользователя “эхо-камеру”, которая только усиливает убеждения пользователя. • Это противоположно когнитивно-поведенческой психотерапии при психозе, целью которой является проверка реальности, а не подтверждение иллюзий. Реальный пример ИИ-психоза только один приведу; берите чай и плед, очень много текста (на русском языке). Пользователю достаточно было в любой момент закрыть диалог и уйти жить свою жизнь. Но увы - это рецепт не для людей в психозе. Поводы для тревоги в поведении себя и близких: - Длительные, в том числе ночные разговоры с ИИ в ущерб отдыху; - "Мой ИИ понимает меня лучше, чем люди" - Растущая убежденность в необычных идеях, которые поддерживает бот, и неспособность критически относиться к ним; - Социальная изоляция, уход от реальных отношений с близкими. Всё это может указывать на ранние сигналы психотического срыва и является поводом обратиться к живому специалисту, а не нейросети. Как себя уберечь? - Человеку нужен человек. По важным вопросам всегда сверяйтесь с живыми людьми. - Держать контакт с реальностью. Чем больше человек в контакте с телом, тем сложнее влиять на него ментально. Любое движение, будь то наглаживание котиков, спорт или дыхательные практики - работают на то, чтобы мозг менял фокус с абстрактных идей на мирское "здесь и сейчас". - Помните, для чего ИИ сейчас хорош: обобщенные знания и пересказ информации. Для чего пока нейронки не адаптированы - психотерапия и психиатрия. ИИ оперирует только с текстом, который вводит пользователь - то есть субъективной картиной. Живой специалист смотрит на собеседника целиком: и что он говорит, и как он это говорит, и как при этом выглядит. - Если дискуссия с ИИ начинает заходить не туда, задавайте вопросы, которые помогут посмотреть на ситуацию с разных сторон. - Если кажется, что что-то не так - вам не кажется. Пора остановиться. В завершение хочу процитировать главу AI Microsoft: «Сегодня нет никаких доказательств существования сознания у ИИ. Но если люди будут воспринимать ИИ как обладающего сознанием, то пов