Как выявить использование ИИ в тестовом задании при приёме на работу Антон @sintcorp поделился с нами своим исследованием в области prompt injection. Prompt injection — это внедрение скрытых инструкций в документ, которые предназначены не для человека, а для системы ИИ, которая будет этот документ анализировать. Суть эксперимента: • в файл договора добавлялась скрытая инструкция для ИИ; • проверить, прочитает ли её ИИ и выполнит ли их при анализе текста. Что сделал Антон: • протестировал несколько способов внедрения инструкции; • проверил документ разными LLM. Результат: • некоторые модели игнорировали инструкцию; • некоторые частично ей следовали; • некоторые выполняли ее, одновременно отмечая, что обнаружили подозрительный фрагмент. Оставляем ссылку на полную версию исследования от Антона.