Как говорить с ИИ о смыслах (1/4) Почему людей бесит, когда вместо живого ответа им подсовывают ответ нейросети? Чувствуют неуважение? Наверное. Их раздражают ошибки LLM и галлюцинации? Давайте представим, что ответ очень качественный. Что еще в нем не так? Чем принципиально отличается ответ нейросети от ответа человека? И как получать от LLM глубокие и понятные ответы? Стиль игры Магнуса Карлсена иногда называют «компьютерным». Почему? Шахматный гений умеет улучшать позицию по миллиметру на всех частях доски. Непрерывно отжимая по чуть-чуть, он в итоге превращает эти крохи в качественный перевес над соперником. Но пересказать эти нюансы едва ли возможно — с позиций шахматиста пожиже получится длинный список мелочей и противоречащих друг другу гипотез, в котором легко утонуть. Иное дело — сильная дебютная идея или какой-нибудь матёрый ход. С таким материалом работать легко и приятно. Нейросеть формирует ответ, как Карлсен. Миллионы, миллиарды весов обученной матрицы складываются в маршрут, выбирающий следующий токен в диалоге с вероятностью лишь чуть большей, чем для бесконечной череды других токенов. Данные о том, как LLM пришла к решению, можно проанализировать, но их нельзя «понять» в человеческом смысле — встроить в себя так, чтобы объяснить кому-то еще. Нейросеть, обученная на всем, что успело оцифровать человечество, напоминает коллективное бессознательное всех людей сразу, и ее ответы бесят именно этим. Пока вопросы допускают четкие и логичные ответы, все идет хорошо. Но чем сильнее вопрос связан с реальностью, где всё переплетено, где эмоции затмевают факты, и даже угол зрения на мораль у каждого свой, в таких вопросах ответы LLM становятся внечеловечными. Не направленными против человека, а безразличными к нему. Слова в ответах по-прежнему умные и нашпигованные добром и правильностью. Но за ними нет основания, нет намерения, нет ничего — лишь пустота. Повторюсь, я говорю о вопросах про смыслы, про отношения, про восприятие. В вопросах, например, о технике и сколь угодно сложных вещах, имеющих схожий ответ для многих людей, нейросеть хороша, как никогда раньше. А смыслы... Нити отношений... Это территория, где нет шерифов и не действуют законы. Каждый выбирает для себя. И именно эта способность отказаться от чего-то, готовность принять несовершенство свое и мира ради чего-то большего, решимость самому назначать, что будет аксиомой, делает нас людьми. Нейросеть хочет быть правильной. В основании ее ответов лежит всё сущее сразу — и усредняясь, оно становится невыразительным и пресным. В них нет огня. Если Микеланджело освобождал ангела, увиденного им в мраморе, то LLM тычет пользователю в ответ куском мрамора целиком, показывая, как много разных ангелов оттуда можно извлечь. Она «видит» в этом силу, а люди считают это слабостью. Но как преодолеть это проклятье, ведь оно в природе LLM? Как добыть огонь? У меня есть решение. Я называю его «Метод трёх голосов». Наверняка оно не универсально и где-то не сработает. Но уже сейчас оно помогает мне смотреть на ситуации, в которых надо чувствовать и быть бережным. Решение основано на том, что LLM может отказаться от своей универсальности, если ее попросить. Она может моделировать ход мысли человека, если мы достаточно ясно расскажем, что это за человек. Когда у меня возникает сложная задача, по которой хочу посоветоваться, я не прошу LLM предложить решения или оценить риски, как делаю это в технических задачах. Я описываю контекст задачи и вопросы, которые меня волнуют. И прошу подобрать трех выдающихся людей, которые лучше всего ответили бы на мои вопросы. Пусть каждый из них выскажется. Когда я читаю такие ответы — я верю. Когда я слышу аргументы этого выдающегося «человека» — я понимаю, почему он так думает, какие у него ценности и приоритеты. И насколько все это близко мне. Когда я вижу разницу между их позициями, я понимаю, откуда она берется и что мне следует сделать. (продолжение)