DevOps от первого лица

Попробовал на выходных ComfyUI 🛋, несколько моделей для генерации картинок и видео из промпта. Особенно впечатлила модель wan2.2, при помощи которой я оживил 3 фото: 1️⃣ экскурсия на заводе БалАЗ (2025 год) 🏭, где машина превращается в Оптимуса Прайма 🤖 2️⃣ выход из гипсовых штолен в Камском Устье (2024 год) ⛏️, здесь нас ждет инопланетное вторжение 👽 3️⃣ прогулка по тем же штольням, но за нами уже следует чужой 🕵️‍♂️ 🚀 Все это генерировалось быстро НА ЛОКАЛЬНОМ СЕРВЕРЕ, без облаков! Приче...

🚀 Хотите запустить свою локальную модель ИИ на домашнем сервере? Я собрал проверенный рецепт и написал инструкцию! 🔧 Что получаете: - Параллельные чаты (-np) без очередей - Чистый вывод размышлений (--jinja --reasoning-format auto) - Авторизацию через --api-key – ваш API теперь защищён - docker‑compose.yml для запуска одной командой, а как скачивать модель тоже покажу - метрики с примерами возможных графиков в Grafana 🔥 И даже затронем тему распределения модели на несколько видеокарт! 👉 Подр...

🚀 Установка драйвера NVIDIA  580 на Debian 12 – простой гайд для любых поколений видеокарт для запуска ИИ: Ampere (RTX 3090), Turing (Tesla V100) и Pascal (Tesla P40) 🥳 🔧 Почему стоит прочитать: - Тема обкатана мной на нескольких серверах, в том числе и не на моих - Вы избежите типичных проблем (Secure Boot, nouveau, nvidia-smi not found). - Всё объяснено на примерах, без лишних терминов. 💬 Почему это важно: без правильного драйвера ваш сервер не сможет запускать модели ИИ,...

⏳ Мои исследования локального развертывании ИИ продолжаются, на этот раз я собрал стенд в своей домашней лаборатории. 🥳 Купил NVIDIA Tesla P40 для расширения опыта с ИИ. В простое потребление ~120ватт, а при инференсе ~290ватт. Это совсем другой уровень…

🚀 Написал статью и смонтировал видео как я собирал тестовый стенд из трех видеокарт и запускал модель gpt-oss-120b. Внутри поговорим про: 🎮 3 разные видеокарты: RTX 3090 TI KFA2, ASUS Rog Strix RTX 3090, Tesla P40 🧩 как это все разместить на материнской плате 🔌 как это все запитать 📊 результаты запуска, сколько в итоге выдает токенов в секунду 👉 Видео: https://youtu.be/yTNmruYj9BU 👉 Текст: https://byurrer.ru/vga3-first-test

🔀 Проброс SSH к GitLab через внешнюю VM без публичного IP 🙈 Немного подевопсим с сетями :) Недавно развернул себе Gitlab на локальном сервере и захотелось мне его прокинуть наружу, не имея внешнего IP. Тут то я и познакомился с NAT поближе, оказалось не так сложно как я думал. В статье кратко разберем: 🔀🌐 что такое NAT и зачем он нам нужен ➡️🖥 как поочередно пробросить трафик от ssh через несколько машин 🧪🔍 как все это дело тестировать и отлаживать 👉 https://byurrer.ru/iptables-nat-gitla...

🏭 Купил еще 2 видеокарты: - Gigebyte RTX 3090 Gaming OC 24gb (первый скрин) - Tesla V100 16gb в кастомном корпусе (четвертый скрин) 💶 Карта от Gigabyte оказалась примерно аналогичной по производительности для инференса что и Asus Rog Strix, но более компактная и менее прожорливая, апгрейд CPU покажет более точные результаты. Пока картой доволен, если предположения подтвердятся то карта от Gigabyte будет самым рациональным вариантом для домашнего инференса: тихая и экономная, хотя в этом рейтин...

🧾 Расшифровка звука через Whisper локально 🧐 Еще в прошлом году я наткнулся на транскрибацию звука, но так и не разобрался в ней толком. А сейчас понадобилось встроить к себе в OpenWebUI функцию расшифровки голосовых сообщений + диаризировать несколько длинных звукозаписей. 👨‍💻 Перебрал несколько опенсорных проектов, разобрался в пользовательской теории. Оказывается там другая сфера ИИ, не такая как у LLM. 📊 В конце статьи подготовил сводную таблицу с характеристиками и скоростью обработки ...

Попробовал на выходных ComfyUI 🛋, несколько моделей для генерации картинок и видео из промпта. Особенно впечатлила модель wan2.2, при помощи которой я оживил 3 фото: 1️⃣ экскурсия на заводе БалАЗ (2025 год) 🏭, где машина превращается в Оптимуса Прайма 🤖 2️⃣…

🚀 ComfyUI Быстрый старт Добрался до написания инструкции по ComfyUI при помощи которого можно генерировать изображения и видео, причем все это можно делать локально без облаков. Внутри много контента, а если по сути то: ✨ начнем с примеров, чтобы было интересно…