А
Агенты ИИ | AGI_and_RL
@AGI_and_RL5.8K подп.
2.7Kпросмотров
45.9%от подписчиков
3 марта 2026 г.
stats📷 ФотоScore: 2.9K
ребятки, новые квены 3.5 получились отличные. респект квенам отдельное спасибо OpenAI, Anthropic, Google за такие крутые модельки. эти компании со своими фронтирами для того и нужны чтобы были у нас крутые квены щас локально работаю с 35b и 9b в q4 - все классн я вообще думаю что через 1-2 подобных релизов у нас мб будет прям опус 4.6 дома для меня всегда чисто локальные модельки были важнее любых крутых внешних. но вот до недавнего времени вменяемых по размеру моделек для локала не было. и тк щас пришло время то я начал делать потихонечку и кодингагента который бы работал чисто с локальными модельками и желательно максимально просто для юзера. и хочется чтобы он запускался буквально в 1 клик поэтому делаю https://github.com/researchim-ai/one-click-coding-agent сейчас там все кванты от квен 3.5 35b-a3b и 9b https://github.com/researchim-ai/one-click-coding-agent/releases/tag/v0.1.0 сбилжено и вроде работает под линуксом и под виндой, под макосом не тестил оно само по нажатию выкачает лламацпп, выкачает указанный квант и запустит там по дефолту будет 35b выбрана промотайте вверх и возьмите 9b у меня с ними проблем нету вроде если вдруг есть желание то можно потестить, я сам еще тесчу на скрине 9b пыжится маленький пишет симулятор квантового компутера. пока рекомендую q4_k_xl для 9b и для 35b https://huggingface.co/unsloth/Qwen3.5-9B-GGUF https://huggingface.co/unsloth/Qwen3.5-35B-A3B-GGUF кстати более мелкие еще не смотрел
2.7K
просмотров
1457
символов
Нет
эмодзи
Да
медиа

Другие посты @AGI_and_RL

Все посты канала →
ребятки, новые квены 3.5 получились отличные. респект квенам — @AGI_and_RL | PostSniper