Авторская статья. Как когнитивные искажения влияют на восприятие ответов от нейросетей Коллеги, недавно обратил внимание на интересное когнитивное искажение при работе с GPT, которое стоит разобрать. Когда вы — эксперт в своей области и просите модель составить текст, создать схему или описать какой-либо процесс, ваше восприятие ответа часто критично. Вы знаете какой должен быть идеальные результат и оцениваете выдачу нейросети, как нечто среднее, ну скажем, на 5-6 баллов по шкале от 0 до 10. Что-то вроде: "Неплохо, но есть что улучшить", — и вряд ли восхищаетесь результатом. Но! Как только вы задаете вопрос в области, в которой не являетесь экспертом, например, про популярные растения Китая, вы неожиданно удивляетесь точности и детальности ответа. Кажется, что GPT — настоящий эксперт! Особенно это заметно, когда люди, например, в психологии, общаются с моделью и искренне радуются, насколько хорошо она дает советы. Почему так? Ответ на самом деле прост. Это не значит, что нейросеть вдруг начала давать идеальные ответы. Просто вы не обладаете достаточным уровнем знаний в этой области, чтобы распознать, что это все-таки средний ответ. Вы воспринимаете его как экспертный, потому что для вас это новая информация. Вывод: Когда вам кажется, что GPT дала "классный" ответ, скорее всего, это не значит, что ответ был качественным. Это значит, что вы не разбираетесь в этой теме. Модель продолжает давать средние ответы, но ваше восприятие искажено отсутствием знаний.