733просмотров
88.6%от подписчиков
14 марта 2026 г.
question🎬 ВидеоScore: 806
Apple проиграла на своём же поле? Поздравляю, малютки, подъехал MetalRT 🫡 Пока все юзают тяжелые абстракции, стартап RunAnywhereAI выкатил движок на «голом металле». Это первая среда для Mac, где LLM, STT и TTS живут в одном сверхбыстром пайплайне. База в цифрах: • Скорость LLM: 658 ток/сек (Qwen3-0.6B). Это в 1.19x быстрее, чем Apple MLX.
• Транскрипция (STT): 1 час аудио за 5 секунд. Это в 4.6x быстрее, чем MLX Whisper.
• Синтез речи (TTS): задержка 291 мс. В 2.8x быстрее всего на Apple Silicon.
• Голосовой ИИ: задержка Voice-to-Voice всего 131 мс. Уровень человеческой реакции. Всё 100% локально, бесплатно и Open Source. Движок уже умеет выполнять 43 нативных действия в macOS: от управления Spotify до окон и FaceTime. По сути, это база для ассистентов, которые реально работают, а не «думают» по 5 секунд как Siri. Юзать можно через RCLI.