687просмотров
30 января 2024 г.
Score: 756
А вот вам ещё пару идей, чтобы избежать "восстания машин" Я знаю, некоторые команды прямо хардкодом ставят отбивку про вопросы о конкурентах. Некоторые прошивают в промт или тренируют модель на это. С промт инъекциями и "блоком на негатив" могут сработать те же подходы: — Самый надежный, но дороже и хуже по времени ответа – проверка ответа перед тем, как он улетает пользователю — Более простой, но не такой надежный – промтинг. Если остановитесь на промтинге, то напоминаю, что лучше использовать позитивные формулировки. Типа отвечай только на вопросы, связанные с ... Если вопрос пользователя не связан с ... сообщи, что ты не можешь проконсультировать его по его вопросу А не "не говори про компанию X плохо" (так не делайте!) В любом случае, если вам кажется, что вас ломают – лучше переведите на оператора. #security #support #tip #prompt 👍 – да, доп слой это тема
😎 – я фанат промтинга –– @aipplhere — про то, как создать клёвые AI продукты. Подписывайтесь.