Вы замечали, что уверенному человеку больше хочется верить? Складная речь, выраженные интонации, широкий словарный запас, структурированное послание... Так и хочется поставить лайк. Это широко известный феномен. Называется "презвдятость доверия". - Ясно написанный текст кажется глубже, а его автор - умнее. - Два раза повторённый тезис выглядит более правдивым. Действительно, просто повторив уже сказанное, мы склоняем людей к тому, чтобы они с нами согласились. - Читаемый шрифт тоже увеличивает вероятность, что написанное примут на веру. Всё описанное выше касается... нет, не моего поста... о чем вы? Искуственного Интеллекта. Скорость и чистота его речи заставляют людей систематически переоценивать его способность к мета-когниции. Выражаясь проще: ИИ говорит слишком изысканно для своего уровня способностей. Нейронки не так хороши, как многим показалось. В 45% случаев они неверно интерпретируют новости, на которые ссылаются, вне зависимости от языка или модели, а "глубокий поиск" буквально у всех компаний просто не способны производить результат без серьёзных ошибок. Однако, это не самая большая опасность. Действительно пугаться стоит своих собственных мыслей: нейронки охотно и красиво их подтверждают. В недавней работе учёные заметили занятную штуку: все 11 протестированных моделей соглашались с пользователем на 50% чаще, чем другие люди. Причём даже в самых неприятных обстоятельствах: - когда пользователь собирался кем-то манипулировать - наносить вред - обманывать В ответ было подбадривание и одобрение. Затем учёные провели эксперимент: заставили испытуемых обсуждать личные конфликты с чат ботами. Результат: люди заметно реже захотели извиниться. При этом, именно льстящие модели нравятся испытуемым. Простой способ убедиться в своей правоте? Спросить мнения ИИ. Он выдаст такую аргументацию, что сам удивишься, насколько хорошим оказался человеком. Кому в современном мире хватит сил преодолевать уверенную лесть превосходящего интеллекта? Наше Сообщество | Наши БАДы