Великолепная статья, в которой сравниваются экстрасенсы и большие матричные умножения. Основной инструмент экстрасенсов: описания подходящие к большинству. Проще говоря — наиболее статистически вероятное. Дальше уже срабатывают человеческие когнитивные искажения и вот вы уже платите деньги сидя за столом с кристальным шаром. LLM по своей сути это очень сильно сжатые все тексты интернета, которые через достаточно тупой алгоритм выдающий следующее, статистически вероятное слово. И дальше уже срабатывают человеческие когнитивные искажения и вот вы уже толкаете речь на TED как злой искусственный интеллект нас всех уничтожит. Нет, автодополнение не выйдет из под контроля и не уничтожит человечество. (Человечество и само неплохо справляется: в 2022 году в Антарктике было на 40° (сорок) теплее, март побил все рекорды по температуре и это десятый месяц подряд) Самая большая опасность это посредственность этих моделей, которая скрывается за невероятной убедительностью. Еще опаснее люди, которые поддаются на эту убедительность и считают что языковые модели способны полностью заменить людей. https://softwarecrisis.dev/letters/llmentalist/