#новое_слово Контекст-инжиниринг Сначала к базе: под контекстом понимается весь набор токенов, которые доступны большой языковой модели в момент генерации ответа, который она может одновременно "видеть" и учитывать. По сути, это ограниченное рабочее пространство мышления LLM. Инженерная задача здесь в том, чтобы использовать этот ресурс максимально эффективно, учитывая жёсткие ограничения контекстного окна, чтобы получать предсказуемый и воспроизводимый результат. Работа с LLM требует мышления именно в терминах контекста, понимания того, какое состояние сейчас "видит" модель, какие данные в него входят и какие действия это состояние может породить. Если раньше фокус был на промпт-инжиниринге, то сегодня на первый план выходит управление куда более дефицитным ресурсом, контекстом. Для того чтобы агент мог эффективно работать долго, появились техники, напрямую решающие проблему перерасхода и засорения контекста: уплотнение, структурированная память и мультиагентные архитектуры. Уплотнение Уплотнение это приём, при котором длинный чат, приближающийся к лимиту контекстного окна, сворачивается в сжатое представление, конспект. Далее работа продолжается уже в новом контексте, основанном на этом конспекте. Структурированные заметки Структурированная память это практика вынесения важных фактов и решений во внешнее хранилище за пределы контекстного окна. В нужный момент эти заметки выборочно возвращаются обратно в контекст, не перегружая его лишними деталями. Архитектуры с подагентами Мультиагентный подход позволяет распределять нагрузку по контексту. Вместо одного агента, который пытается удержать "в голове" весь проект, специализированные подагенты решают отдельные задачи в собственных контекстных окнах. Подробнее все это в статье Антропиков https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents