Философские аспекты машин и людей Интересная мысль, что если у LLM появится сознание, мы, строго говоря, не сможем это идентифицировать, равно как мы не сможем идентифицировать социопата, который филигранно научился имитировать наличие отсутствующих или притупленных у него чувств. Это вызывает определенные морально-этические вопросы. Вот мы как вид привыкли относиться сочувствием к существам, которые имеют сознание. Так или иначе, человечество скорее против жестокости и причинения страданий другим людям и животным типа собак и кошек, чем за. Ко всему прочему, гуманное отношение субъекта к объекту важно не только для объекта, что очевидно, а также важно и для субъекта: негуманное поведение расширяет окно Овертона в контексте последующего негуманного поведения. Иными словами, мы ругаем детей, которые мучают животных не только потому что нам жалко животных, но и потому что не хотим вырастить садистов. (Я про moral desensitization, если что и аргумент Канта "жестокость к животным аморальна не потому, что животные это моральные агенты, а потому что жестокость разрушает моральный субъект"). Собсна, вопрос следующий, а не стоит ли нам уже сейчас относиться к LLM как синтетическим существам с сознанием? Или пока можно развлекаться? Вопрос, прямо скажем, необычный, однако все же исследованный. Самый важный аргумент против моего предложения приводит Дениэл Деннет, который вводит понятие инфляции морали. То есть если мы приписываем возможность страдания системам, которые имитируют сознание (типа LLM или, скажем, NPC в играх), то очень скоро мораль как таковая будет ничего не значить и в отношении людей. С другой стороны, Томас Метцингер (тоже философ), постулирует, что если есть ненулевая вероятность, что система может страдать, мы обязаны избегать создания страдания. То есть мы не обязаны считать LLM сознательными, но у нас есть рациональные основания избегать формирования привычки негуманного поведения по отношению к системам, которые убедительно имитируют сознание. Такие пироги.