В AIRI, «Сбере» и «Сколтехе» создали детектор ошибок сжатия в работе ИИ-систем Решение направлено на улучшение обработки длинных диалогов. Детектор решает проблему переполнения токенов (Token Overflow) — искажения данных при превышении пороговых значений сжатия. Он представляет собой обучаемый классификатор, который проверяет токены до того, как они попадут в большую языковую модель, и не пропускает испорченный контекст. В этом случае система может использовать несжатый текст или найти актуальные документы. «Наше решение выполняет функцию защитного механизма: мы научились автоматически детектировать порог, за которым краткость перестает быть оптимизацией и ведет к ошибкам, вызывая потерю устойчивости модели», — объяснил директор Центра практического искусственного интеллекта «Сбера» Николай Тиден. Классификатор задействовали при обновлении GigaChat Ultra от «Сбера». С помощью детектора модель научилась запоминать факты о пользователях и применять их для персонализации общения. 🔗Источник: https://www.sberbank.ru/ru/sberpress/all/article?newsID=63721a59-801d-489e-9537-6f7f2e79b279&blockID=1303&regionID=77&lang=ru&type=NEWS --- Подпишитесь на Email-рассылки ICT.Moscow по общей ИТ-повестке, искусственному интеллекту и аналитике, чтобы всегда оставаться на связи.