Н
Никита про LLM
@llm_newz1.3K подп.
1.7Kпросмотров
21 апреля 2025 г.
stats📷 ФотоScore: 1.9K
💵 Запускаем LLM уровня o3-mini локально и бесплатно Google изобрели новый способ квантования и выпустили обновленные Gemma 3. Полученные модели не теряют в качестве, а весят значительно меньше исходных. Теперь чтобы запустить Gemma 3 27B, вам понадобится всего лишь 20 GB видеопамяти, при этом вы получите: 🔵Контекстное окно 128к токенов 🔵Поддержка 140 языков 🔵Анализирует изображения Попробовать можно через ollama: ▶️Скачайте приложение ollama ▶️Выполните ollama run gemma3:27b-it-qat в терминале ▶️Общайтесь прямо в терминале, ollama будет хранить контекст диалога Я запустил у себя на ноутбуке, потестил на русском языке — работает отлично. Заметил, что многие ответы сильно похожи на gpt-4o 🙃 Все это работает локально, быстро, бесплатно и без интернета
1.7K
просмотров
765
символов
Да
эмодзи
Да
медиа

Другие посты @llm_newz

Все посты канала →
💵 Запускаем LLM уровня o3-mini локально и бесплатно Google — @llm_newz | PostSniper