🔤втопроверка самим ИИ Иногда я читаю ответ от ИИ и ловлю себя на мысли: звучит уверенно, значит, наверное, правда. А потом нахожу там такой креатив, что ему место на стене, а не в аналитике или отчете. Почетный галлюцинатор! Это нормальное поведение модели: она не различает "красиво" и "истинно". Но часть этой фантазии можно отловить прямо внутри самой нейросети, без ручного разбора каждого абзаца. Для этого я включаю режим автопроверки. 1️⃣Обычно сценарий такой: вы задали вопрос, ИИ выдал аккуратный текст, вы скопировали его в документ и побежали дальше. Через неделю выясняется, что половина фактов придумана. Чтобы это не улетало в прод, я добавляю второй шаг поверх любого ответа: самопроверку. 2️⃣Сначала модель отвечает как обычно. Сразу после этого я прошу ее критично разобрать собственный текст: – пройти по шагам рассуждений; – отметить места, где могла быть ошибка; – показать части, которые требуют внешней проверки; – честно сказать, где она предполагает, а не знает. Что происходит дальше: модель снова читает свой ответ, находит противоречия и слабые места, помечает фрагменты, где уверенности мало, и явно пишет, что лучше проверять руками. Ошибок меньше не становится магически. Но они перестают быть аккуратно спрятанными внутри гладкого текста. По сути вы добавляете к каждому ответу мини ревью, только делает его тот же самый ИИ. Это сильно лучше, чем слепо верить первому варианту и потом удивляться, откуда в отчете взялись лишние выдуманные факты. Как обычно промт ля самопроверки галлюцинаций в комментах, а так же новая рубрика что с этим делать)