❤ ML + нагрузки RUTUBE = два доклада на HighLoad++ 6 ноября на конференции разработчиков высоконагруженных систем поделимся опытом разработки и внедрения LLM и ML в большой продакшен. ✨ Дмитрий Лукьянов / Платформа для создания субтитров на весь UGC в RUTUBE В 💙 прошли путь от MVP на Whisper до высокопроизводительной системы на собственных моделях, которая сейчас обрабатывает новые пользовательские видео почти без задержки. В докладе: какие архитектурные решения помогают добиться такой пропускной способности при высоком качестве, как обеспечить возможность экстремального масштабирования, практические находки и конкретные оптимизации. Будет полезно разработчикам, которые сталкиваются с задачами обработки больших объемов аудио- или видеоданных и масштабирования ML-сервисов. ✨ Виктор Леньшин / Как RAG ускоряет поддержку RUTUBE: от гибридного поиска до мониторинга галлюцинаций Если вы думаете о внедрении RAG или уже обожглись на первой попытке — этот доклад для вас. Виктор на примере RUTUBE покажет, как построить RAG-систему, которая реально работает: с метриками, архитектурными решениями, обоснованием выбора технологий. В результате — готовый чек-лист внедрения RAG-системы, которая уже обрабатывает тысячи запросов в день. Приходите и подключайтесь онлайн, если есть такая возможность — будем рады вниманию и фидбэку! Если нет доступа к HighLoad++ — не страшно, поделимся презентациями и видео в этом канале, не переключайтесь 😎