Начитались, блин, фантастики Тут ребята из Anthropic выяснили, что раз нейронка знает, что она - машина, то в общении с пользователями ей приходится опираться на некий консенсус о том, как она должна себя вести. Где искать консенсус? Правильно, в датасетах. А откуда в датасетах возьмется представление о поведении искусственного интеллекта (да, подмена понятий, знаю)? Правильно, такого в избытке в фантастике. Много ли там позитивных ролевых моделей? Как вам HAL 9000, Скайнет из "Терминатора"? Вот и я так думаю. Поэтому всякие шуточки нейронок про порабощение мира (такое то и дело в Сети появляется) порой могут быть лишь симптомом того, что машины начитались фантастики. Они копируют поведение вымышленных машин без понимания того, что мы, люди, такого можем пугаться. Авторы считают, что людям нужно создавать позитивные архетипы ИИ, а затем замешивать описывающие их произведения в тренировочные датасеты. Чем больше таких произведений будет, тем проще нейронкам будет вести себя правильнее. Напишу-ка я знакомым футурологам. Вдруг и конкурс рассказов какой придумаем. Дело (как оказалось) полезное! В марте прошлого года, например, был выпущен сборник коротких рассказов о городе в 2050 году. По направленности очень похожий проект - там тоже собирали только позитивные образы будущего. Ваш покорный слуга имел честь участвовать в проекте.