Adept | Машинное обучение | Открытое ПО

Привет, немного информации о проекте про разработку которого я рассказываю в этом канале: Adept(Automatic Differentiation Engine for Tensor Processing) — это библиотека на Python и C++ для построения и обучения нейросетей, созданная с упором на кроссплатформенность, гибкость и образовательную ценность. ⚙️ Основные возможности: • Динамические графы — как в PyTorch: отладка, условия, циклы «из коробки». • Тензоры + Autograd — автоматическое дифференцирование и GPU-ускорение. • Vulkan backend — раб...

🔍 Как стабилизировать систему перед нагрузочным тестированием Если вы сравниваете производительность (например, как я наш Vulkan-бэкенд vs PyTorch), важно обеспечить воспроизводимость бенчмарков, исключив влияние системных факторов. Например динамическое управление частотами или рандомизации памяти. Вот минимальный набор команд для Linux-систем с NVIDIA GPU с которых можно начать: 🖥️ GPU (NVIDIA) # Включить persistence mode (чтобы драйвер не «усыплял» GPU) sudo nvidia-smi --persistence-mode=1 ...

🎄 Новогодние каникулы прошли не только в кругу семьи и друзей, но и за кодом! Завершил рефакторинг системы управления ресурсами Vulkan-конвейера в нашем проекте. Что изменилось: ✅ Убрал необходимость ручной синхронизации в конце обработки пакета при обучении моделей ✅ Снизил нагрузку на аллокаторы ресурсов ✅ Сделал управление ресурсами более предсказуемым и «плавным» Провёл сравнительное нагрузочное тестирование — и результаты радуют: 📈 На задачах с LeNet и ResNet50 (CIFAR10/MNIST, FP32, Adam)...

🛠️ На каких Linux-дистрибутивах проверена сборка Adept Проект успешно собирается и запускается на следующих системах: 🔹 Manjaro Linux 26.0.1 — основная платформа разработки 🔹 Ubuntu 22.04 🔹 Ubuntu 25.10 (development release) А также на отечественных дистрибутивах: 🔹 Astra Linux Smolensk 1.8.3 🔹 ALT Linux StarterKit 11 «Slavia» Особенности: - В ALT Linux по умолчанию включён _FORTIFY_SOURCE в GCC, что мешает сборке oneTBB. Обход описан в Wiki проекта. - Сборка под Astra Linux была протестир...

Привет, на Хабре вышла моя статья про C++ в ML. По сути там описаны базовые архитектурные подходы используемые в проекте. Будет ещё одна часть. https://habr.com/ru/companies/yadro/articles/994326/

Привет, рад сообщить что для проекта начали появляться дополнительные внешние инструменты, знакомьтесь: SBcontrol - HTTP API + веб-дашборд для удалённого управления фреймворком Adept на Windows с GPU-ускорением через Vulkan. https://gitverse.ru/Sohoroom/SBcontrol

Привет, сделал декомпозицию задач про ускорение свёрточных операций — сердце современных CNN: • https://gitverse.ru/kolkir/adept/tasktracker/TSKDPT3-90 • https://gitverse.ru/kolkir/adept/tasktracker/TSKDPT3-79 Есть три основных задачи: 🔥 Быстрые свёртки для инференса (CPU/GPU) Цель: Максимально ускорить вывод моделей за счёт оптимизированных алгоритмов свёрток. Что делать: Исследовать подходы (включая Winograd и альтернативы) Учесть ограничения: поддержка batch, channels, padding Реализовать яд...

Привет, продолжаю писать документацию проекта в статьях. Вышел второй материал цикла про применение C++ в  ML. https://habr.com/ru/companies/yadro/articles/997006/

🚀 Небольшие оптимизации в adept: Linear layer и sum() Привет! Наконец-то после 3х недель написания документации в виде статей удалось вернуться к разработке. Сделал ряд улучшений в библиотеке, которые немного улучшили производительность операций обратного распространения градиента. 1. Обобщённая операция sum(dim) Раньше операция суммирования работала только для всего тензора или только по первой оси (sum_dim0). И по оси была наивная реализация которая в цикле суммировала все значения по 0му изм...

Добрый день, представляю последнюю статью из мини-серии про С++ в ML. Где я рассказываю про то как можно реализовать вычислительный граф и как его использовать с методом обратного распространения ошибки. По большому счёту это то как сейчас данная функциональность реализована в Adept. Но мы работаем над более универсальной архитектурой графа которая позволит выполнять оптимизации и преобразования для тензорных компиляторов. https://habr.com/ru/companies/yadro/articles/1002784/