1.7Kпросмотров
21 апреля 2025 г.
stats📷 ФотоScore: 1.9K
💵 Запускаем LLM уровня o3-mini локально и бесплатно Google изобрели новый способ квантования и выпустили обновленные Gemma 3. Полученные модели не теряют в качестве, а весят значительно меньше исходных. Теперь чтобы запустить Gemma 3 27B, вам понадобится всего лишь 20 GB видеопамяти, при этом вы получите: 🔵Контекстное окно 128к токенов
🔵Поддержка 140 языков
🔵Анализирует изображения Попробовать можно через ollama:
▶️Скачайте приложение ollama
▶️Выполните ollama run gemma3:27b-it-qat в терминале
▶️Общайтесь прямо в терминале, ollama будет хранить контекст диалога Я запустил у себя на ноутбуке, потестил на русском языке — работает отлично. Заметил, что многие ответы сильно похожи на gpt-4o 🙃
Все это работает локально, быстро, бесплатно и без интернета