"Я хочу попытаться убедить вас, что мультимодальный чат-бот уже обладает субъективным опытом". Так говорит Нобелевский лауреат и «крестный отец ИИ» Джефри Хинтон в свежем подкасте у Нила Деграсс Тайсона. И неправ в хорошем смылсе. Рассмотрим его аргументацию. Хинтон считает, что никакого сознания нет, называя его «флогистоном», ложной сущностью. Здесь он ссылается на Деннета. Для него достаточно, чтобы система корректно употребляла ментальные термины и могла сообщать о собственных перцептивных ошибках. Иными словами, дело здесь не столько в новейших успехах ИИ, сколько в исходной философской позиции самого Хинтона. Вот его рассуждение: "Я беру мультимодального чат-бота, обучаю его. У него есть камера, роботизированная рука, он умеет говорить. Я помещаю перед ним предмет и говорю: “Покажи на предмет”. И он показывает на предмет. Затем я нарушаю работу его перцептивной системы: ставлю перед камерой призму. После этого я снова помещаю перед ним предмет и говорю: “Покажи на предмет”. И он указывает куда-то в сторону. Тогда я говорю ему: “Нет, предмет находится не там. На самом деле он прямо перед тобой. Просто перед твоей линзой стоит призма”. И чат-бот отвечает: “А, понимаю, призма преломила световые лучи, так что предмет на самом деле находится прямо передо мной. Но у меня был субъективный опыт, будто он находится сбоку”. И если бы чат-бот сказал это, он использовал бы выражение “субъективный опыт” ровно так же, как используем его мы. А значит, у этого чат-бота только что был бы субъективный опыт". С такими друзьями, иллюзионистам и враги не нужны. Даже если вы отрицаете наличие феноменального сознания, ваша теория не отпускает вожжи и не приписывает по первому требованию сознание направо и налево системам, способным говорить о своих внутренних состояниях. Сам факт правильного употребления ментальных терминов при «различении» перцептивных ошибок не означает наличие "иллюзии" сознания. Иллюзионисты все еще могут проводить различия между существами, обладающими и не обладающими иллюзией "внутренней сцены". Например, не все существа, демонстрирующие болевое поведение, испытывают боль, чем бы она ни являлась —— «флогистоном» или субъективным приватным состоянием. Критерии Хинтона носят бихевиоральный характер и попросту неудовлетворительны, если говорит о положении дел в современной науке о сознании при всем разброде и шатании внутри нее. Но, правды ради, стоит отметить, что фоновое условие рассуждений Хинтона опирается на то, что различие между искусственными и естественными нейронными сетями не столь уж принципиально. В данном случае у нас нет ответа на этот вопрос. Известно лишь то, что —— наоборот —— различия весьма существенные. Коротко говоря, даже если сознание —— это «флогистон», то поведения все еще недостаточно для определения его наличия. Если ведет себя как утка и крякает как утка, то, возможно, это игрушечная утка.