Qwen2.5-7b-Instruct-Q4. 这是阿里云通义千问 Qwen2.5-7B-Instruct 模型的 4 位量化版本,使用 llama.cpp 的 Q4_K_M 量化方法。

github.com/HoseaDev/Qwen2.5-7b-Instruct-Q4

Vaya's read on this project

Problem, audience, market, and the verdict — sign in to see it.

Updates

No recent activity.