Anthropic опубликовала новую «Конституцию Claude» — текст, который интересен как попытка зафиксировать образ мышления для искусственного интеллекта. Речь идёт о документе, который объясняет, почему модель должна действовать так, а не иначе. Авторы прямо говорят, что если ИИ должен ориентироваться в сложных и неоднозначных ситуациях, ему недостаточно следовать правилам. Ему нужно понимать основания этих правил, уметь соотносить ценности и принимать решения в условиях неопределённости. Текст написан прежде всего для самого Claude. Модель опирается на него при генерации данных, при выборе ответов и при оценке собственных вариантов поведения. В документе постоянно подчёркивается различия между намерениями и реальностью. Авторы не обещают, что модель всегда будет соответствовать описанным идеалам, и прямо говорят о разрыве между замыслом и фактическим поведением. Конституция представлена как «живой» текст, который будет переписываться и уточняться по мере того, как меняются сами модели и их возможности. Отдельного внимания заслуживает тон: Anthropic не утверждает, что Claude обладает сознанием или моральным статусом, но при этом серьёзно обсуждает вопросы идентичности, самопонимания и даже психологической устойчивости ИИ. И дело, конечно, не в страданиях, а потому, что его способ понимать себя влияет на безопасность, целостность и качество решений. Как вам кажется, возможна ли вообще «конституция» для нечеловеческого разума — или ценности неизбежно остаются человеческими, как бы подробно мы их ни прописывали?