11.1Kпросмотров
3 февраля 2025 г.
statsScore: 12.2K
Опрос показал, что 26% ждет адаптацию 14B модели, и вот мы ее подготовили - RuadaptQwen2.5-14B-Instruct 🎉 Провели модель через процедуру адаптации, отлаженную на 7B версиях. На подходе также версия с 1M контекстом (будет UPD к этому посту). Метрики:
1) RuArenaGeneral - 88.63 (на одном уровне с RuadaptQwen2.5-7B-Lite-v1)
2) shlepa - 0.477
3) MERA (0.522 с обычным системным промптом, 0.551 с кастомным) Итого, по метрикам как будто не должно быть лучше, чем RuadaptQwen2.5-7B-Lite версия, но я что-то сильно в этом сомневаюсь, в частности, некоторые внутренние бенчи + mmlu (ru и en) лучше у 14B версии. Так что особенно будем рады отзывам на данную модель (а также и на другие модели из серии Ruadapt) с целью дальнейшего улучшения качества. Модель: https://huggingface.co/RefalMachine/RuadaptQwen2.5-14B-Instruct
GGUF версия: https://huggingface.co/RefalMachine/RuadaptQwen2.5-14B-instruct-GGUF Модель на 1М контекст: https://huggingface.co/RefalMachine/RuadaptQwen2.5-14B-Instruct-1M
GGUF версия: https://huggingface.co/RefalMachine/RuadaptQwen2.5-14B-Instruct-1M-GGUF