Иллюзия мышления с AI Помните? Как только появился GPT-3.5, было много статей о том, что LLM используют сократический метод, помогают через вопросы приходить к ответам, мыслить. Я помню, потому что в то время это неплохо пустило мне пыль в глаза. И, если честно, я только сегодня начинаю понимать, в чём идея сократического метода и почему LLM (хотя они и задают вопросы в конце ответов) в своей базовой настройке - вообще не про сократический метод. Недавно OpenAI публиковали исследование “Как люди используют LLM”. И я считаю, что из этого исследования невозможно понять, как люди на самом деле используют AI. Они описывают блок “Asking” (49% от всех запросов), когда человек ищет совет или информацию для принятия решений. Но, на мой взгляд, “спрашивать” у AI можно для двух задач: — когда нужен готовый фактический ответ — когда нужно принять решение. И, если с фактическими ответами всё ок, к принятию решений через диалог с LLM есть вопросы. Недавно на философском кружке Алексей Соловьёв @dasein_simulacrum сравнил языковые модели скорее с общением с софистами, чем по сократическому методу. И у меня всё встало на свои места: Цель сократического метода - стимулировать критическое мышление, самопознание и поиск объективной истины. Софистика же ставит своей задачей победу в споре, практическую пользу, а не поиск истины. Мне кажется, сегодня важно держать эту идею каждый раз, когда мы приходим в AI, потому что LLM в своих системных настройках - софисты. А это значит, что они смогут подтвердить любую, даже противоречивую точку зрения, нужно лишь дать нужный контекст и правильно поставить вопрос. => я вообще очень осторожно хожу с вопросами в AI, и часто запрещаю отвечать на уровне кастомных настроек. А OpenAI я бы предложил разделить Asking и Answering. Основная польза от AI - это когда мы используем их для генерации вопросов, а не ответов. Asking же для поиска фактов даёт реальную пользу (автоматизация, ускорение исследований и т.д.), а в случае принятия сложных решений - ну, скорее всего, эффективнее было бы сесть подумать или поставить встречу с живым человеком. Но, что-то мне подсказывает, не просто так они не добавили этот блок. Юзкейс не бьётся с KPI на удержание.