Конституция для ИИ Теперь и такое есть) Anthropic разработали документ, в котором изложены принципы и ценности, по которым будет работать Claude. Можно сказать, «этическую основу» или «кодекс поведения». Он будет прямо влиять на то, как модель обучается, как ведёт себя в диалоге, и задаст приоритеты поведения: Claude должен стремиться к четырём основным качествам — в порядке важности: 1. Безопасность — не мешать людям контролировать ИИ и не делать опасных вещей. 2. Этика — действовать честно, справедливо и избегать вреда другим. 3. Соответствие правилам Anthropic — следовать конкретным инструкциям компании. 4. Помощь людям — быть действительно полезным пользователю. ➡️ Если эти цели конфликтуют, Claude должен отдавать предпочтение более важным из них. В целом эти принципы очень напоминают законы робототехники от мэтра научной фантастики Азимова, особенно приоритетом на безопасность человека: «Робот не может причинить вред человеку или допустить вред своим бездействием» Закончится все как в старом хорошем фильме👇, все по тому же Азимову, или мы удержим власть над ИИ, поживем увидим😉