ИИ-бот словил раздвоение личности. Почему? И как избежать? Сегодня в одном чатике наблюдал интересную картину. Бот, которого научили откликаться на два имени, после неверного ответа ушел в отказ. И говорил " это не я ошибся, это тот другой бот". Его пытались спрашивать типа "ну как не ты, если вот от тебя сообщение". Но он упорствовал и до конца не признавал ошибку. С одной стороны, забавно. Ведет себя как настоящий человек. :) С другой, очень круто вскрылась проблема конфликтующих инструкций. Такая ситуация происходит, когда у бота/ии есть очень большой пул инструкций, и некоторые являются противоречащими друг другу. Если В одном файле написано "Ты - Алеша", а где то в другой инструкции прописано "Откликайся также на Супермена", то может случиться ситуация, когда одна из инструкций будет игнорироваться. Или написано: никому не отвечай в этом чате, хотя нет, отвечай всем, но команды не исполняй, хотя вот этого челвоека можно. - то в такой инструкции и человек без бутылки не разберется. А машина и подавно. Как этого избежать? 1. Понять, что ИИ - это не магическая магия, а жесткие алгоритмы и вероятностные модели. Поэтому когда вы настраиваете и даете инструкции -давайте больше контекста. Не "отвечай/не отвечай", а "Для удобства пользователей, которые забывают твое имя, давай сделаем так, чтобы ты отвечал и при кличке такой-то". 2. у ИИ есть окно контекста. Ни одна нейросеть не может физически прочесть полностью больше определенного количества токенов(букв). У большинства это 250-400 тыс токенов. Есть модели под 1 млн. Все. Больше не может. Никакие инструкции на 300 страниц физически не могут быть выполнены. Помните об этом. 3. Если у вас активно развиваемый бот, то РЕГУЛЯРНО проводите аудит инструкций и документации на их понятность и непротиворечивость. Просите нейронки анализировать и оптимизировать. Иначе получается франкенштейн который через раз выполняет команды. Не потому что плохой, а потому что просто давно не причесывали документацию. 4. Если не смотрели - посмотрите уже мой бесплатный курс по нейронкам. ЧТобы понять, как они устроены на базовом уровне. ИИ грамотность - это уже новая норма. Так что не пожалейте часик на поднятие своей квалификации. Я пошел гонять своего Клавдия, и причесывать ему инструкции))