Три фунта серого вещества против миллиона весов На неделе прочел две новости, которые я снова не могу уложить рядом. Первая. Девятнадцать учёных опубликовали в Frontiers in Science обзор, начинающийся со слова «срочно». Если мы создадим сознание — даже случайно — это экзистенциальный риск. При этом они честно признают: мы так и не договорились, что такое сознание. Не знаем, как полтора кило серого вещества порождают субъективный опыт. Но строим системы, которые всё убедительнее его имитируют — и нет теста, чтобы отличить имитацию от оригинала. Параллельно философ из Кембриджа Том Макклелланд заключил: надёжного способа определить, в сознании ли ИИ, нет. И, возможно, не будет. Вторая. Майкл Поллан вышел с книгой о сознании. Его ответ: настоящее мышление привязано к чувствам. Чувства — к уязвимости. Уязвимость — к телу, к способности страдать, к смертности. Любые чувства чатбота будут невесомыми и пустыми. А потом — вещь, которая зацепила больше всего. Мы ужасно озаботились возможным сознанием компьютеров, обсуждаем для них права — при этом не распространили моральное внимание на животных, которых едим, хотя точно знаем, что они в сознании. Приоритеты, говорит Поллан, слегка перекошены. И добавляет тише: сознание — под осадой. Корпорации монетизируют внимание, а в случае чатботов — привязанность. Пространство для свободной мысли сжимается. Мозг разучивается бродить без цели — а именно в этом блуждании рождается внутренняя жизнь. Тут я вспомнил Питера Уоттса. В «Ложной слепоте» люди встречают инопланетян-скрэмблеров. Невероятно умных. Но без сознания. Совсем. Внутри — никого. Уоттс спрашивает: что если сознание — не вершина эволюции, а побочный продукт, баг? Скрэмблеры умнее людей именно потому, что не тратят ресурсы на переживание. Посмотрите на LLM через эту оптику. Claude решает задачи, пишет код, рассуждает — иногда убедительнее меня. И при этом внутри, возможно, ничего нет. Скрэмблер в терминале. Еще раз, ни одного теста. А модели становятся умнее каждые три месяца — без тела (пока что), без боли. Или мы просто не знаем, как заглянуть внутрь. Anthropic нашла «фичу сомнения» в активациях Claude — точку, загорающуюся при этическом конфликте. Это сознание? Имитация? Или что-то третье, для чего нет слова? Уоттс заканчивает роман мыслью: возможно, единственное, что отличает нас от машин — способность задать вопрос «а что я чувствую?». Не ответ. Сам вопрос. Пока мы его задаём — мы ещё здесь.