Видят ли ИИ красные яблоки? Конечно, не видят. И что это значит для теории сознания. Помните, недавно снова упоминал мысленный эксперимент философа Ф. Джексона «комната Мэри» и приводил некоторые малоубедительные аргументы в пользу ошибочности взглядов иллюзионистов? Продолжим. Удивительно точной мне показалась аналогия LLM в отношении эксперимента, которую приводят в этом видео. На видео рассуждает профессор Элан Баренхольц, когнитивист из Атлантического университета Флориды. По его словам, благодаря языковым моделям мы можем теперь утверждать, что природа языка не связана с внешним миром. Нейросетям для создания осмысленного текста не нужно знать, что такое «красное» и «яблоко». Достаточно знать статистические отношения между токенами (словами) и предсказывать следующий токен. И тут можно было бы обрадоваться иллюзионистам. Однако он развивает свою точку зрения, предполагая, что сознание всё-таки не сводится к лингвистическим моделям и феноменальное сознание (квалиа) существует реально, отражая непосредственный опыт восприятия. Но проблема в том, что язык не знает, что происходит на уровне восприятия, и только опосредованно кодирует опыт, а наш рациональный разум отрезан от реальности. Баренхольц также критикует нашу цивилизацию и утверждает, что лингвистическое измерение захватило наш разум и подменяет реальность практикой говорения. Мы доверяем концепциям и моделям больше, чем своим чувствам. Интересные мысли высказывает дядя. Однако они довольно уязвимы для критики. С одной стороны, лингвистические модели удачно симулируют мышление человека, однако с другой – это совсем не значит, что мышление человека не является семантическим. Это также противоречит опыту. Образы восприятия и воображения идут вместе с их обозначениями. Более того, слова не только представляются в виде образов объекта — человек буквально физически на них реагирует. Без этой физической взаимосвязи не могло бы возникнуть и статистической связи между словами, способной реально предсказывать не только следующие слова, но и реальные события. Единственное, к чему идею Баренхольца мне показалось интересным применить, — это к модели безумия. В целом язык всё-таки связан с опытом восприятия и ментальными образами. Однако что, если эта связь может нарушаться? Последние данные об ИИ-психозах не указывают ли на то, что есть люди, которые в такой значительной мере сами поглощены лингвистической системой представлений, что утрачивают критику к тому, что ИИ говорит? Не происходит ли во время бреда в других случаях подобной же ситуации? И наоборот, не может ли быть обратной ситуации, когда ментальные образы становятся значительно сильнее лингвистической системы восприятия, когда нарушается логика и способность к рациональному мышлению и образы в обход критики захватывают сознание человека? Я бы на все вопросы ответил — да. #сознание #философия #квалиа #ии