On-device рекомендательный движок Яндекс Музыки: 100 КБ, офлайн-инференс Яндекс Музыка развернула рекомендательную систему непосредственно на пользовательских устройствах. Архитектура заслуживает внимания с точки зрения edge AI. Вместо квантизации и дистилляции серверной нейросети команда пошла другим путём: на устройство устанавливается лёгкий движок весом 100 КБ, а не модель. При синхронизации сервер передаёт персонализированные параметры подбора — фактически предвычисленные веса для конкретного пользователя и конкретного набора кэшированных треков. Движок работает с локальными сигналами: лайки, пропуски, длительность прослушивания. Пересчитывает ранжирование в реальном времени без обращения к серверу. Подход интересен тем, что тяжёлые вычисления остаются на сервере, а на устройство выносится только инференс по предвычисленным параметрам. Это позволяет не нагружать мобильный процессор и батарею, сохраняя качество персонализации. Продукт охватывает 94% аудитории сервиса — масштаб, при котором даже минимальная нагрузка на устройство имеет значение. @ai_n_hardware