🚀 LiteRT - универсальная основа для AI прямо на устройстве Google представил LiteRT — новый универсальный фреймворк для on-device AI, который развивается из TensorFlow Lite и становится базой для высокопроизводительного ML и генеративного AI на устройствах. 🔥 Что важно ⚡ До 1.4× быстрее GPU-ускорение LiteRT показывает прирост производительности на GPU по сравнению с TensorFlow Lite, снижая задержку и улучшая отклик моделей. 🌐 Кроссплатформенность Работает на Android, iOS, macOS, Windows, Linux и Web. Использует OpenCL, OpenGL, Metal и WebGPU через новый движок. 🤖 Поддержка NPU Добавлено ускорение на нейропроцессорах с единым API, что упрощает разработку под разные чипы и повышает скорость инференса. ⚙️ Модели из PyTorch и JAX Есть удобная конвертация моделей, что упрощает перенос современных AI-моделей на устройство. 📦 Open-source Фреймворк открыт и подходит для продакшена — можно строить реальные on-device AI-приложения. LiteRT позволяет запускать современные AI и GenAI модели прямо на устройстве — быстрее, с меньшей задержкой и лучшей приватностью, без постоянной зависимости от облака. https://developers.googleblog.com/litert-the-universal-framework-for-on-device-ai/