它是什么
Qwen2.5 7B Instruct 是阿里云通义千问的 7B 级对话模型,中文能力比多数西方模型明显更好,许可是 Apache-2.0,对商业使用最宽松。来源:https://github.com/QwenLM/Qwen2.5https://github.com/QwenLM/Qwen2.5
怎么用起来
Qwen2.5 7B Instruct 装上推理工具后按名字拉取,选 Q4_K_M 量化版本即可在 8GB 显存上跑。来源:https://github.com/QwenLM/Qwen2.5https://github.com/QwenLM/Qwen2.5
以上坑来自 https://github.com/QwenLM/Qwen2.5https://github.com/QwenLM/Qwen2.5 与官方文档。
来源与署名
Mentioned from:https://github.com/QwenLM/Qwen2.5https://github.com/QwenLM/Qwen2.5 · 原作者 阿里云通义千问(Qwen)(Apache-2.0)。