跳到主要内容
参数量 70BLlama 3.3 Community License参考估算

Llama 3.3 70B Instruct

需要 48GB 级显存的大家伙:本地能力的天花板之一。

官方来源:https://github.com/meta-llama/llama-modelsMeta你将离开 AIWorksWell,前往 Meta。该网站不受我们控制,其内容、隐私与安全由其自行负责,请自行判断。

需要什么硬件

参考估算
参数量
70B
架构
稠密
上下文
128K
许可
Llama 3.3 Community License
最低显存
47G
内存(纯 CPU)
64G
下载体积
—G

按量化档看门槛

同一模型选不同量化档,体积与门槛差别很大——这是本地模型最常被误判的一件事。

推荐量化档体积最低显存质量
F16280G322G原版精度
Q8_0148.4G171G几乎无损
Q6_K114.8G132G接近无损
Q5_K_M99.4G114G很好
Q4_K_M★85.4G98G性价比最高
Q3_K_M70G81G有可感知损失
Q2_K53.2G61G明显降智,仅应急

口径:显存为 Q4_K_M 档参考

你的设备

简明介绍每一个能自己跑的模型:参数量、需要的硬件、能跑在什么档位。我们不排名、不写价格——只告诉你它要多少机器。

在个人中心填一次设备档位,这里就会显示"你这台能不能跑"。去填设备·不想登录?直接试算一次

安装提示词

复制它,粘贴给你正在用的 AI(Claude Code、Codex、ChatGPT…),它会替你装好并验证。

44 行
我需要你帮我在我的机器上安装并运行一个软件。

【软件信息】
名称:Llama 3.3 70B Instruct
用途:需要 48GB 级显存的大家伙:本地能力的天花板之一。
官方来源:https://github.com/meta-llama/llama-models
许可:Llama 3.3 Community License
鼠标滚轮在框内上下查看,复制到的仍是完整提示词1267 字

复制 → 粘贴给你的 AI → 它替你装好

这条讲什么

它是什么

70B 级稠密模型的定位很清楚:能力接近云端大模型,但门槛也在那里——量化后仍需 40GB 以上可用显存,普通消费级显卡单人基本跑不动。来源:https://github.com/meta-llama/llama-modelshttps://github.com/meta-llama/llama-models

怎么用起来

两条现实路径:① 多卡/大显存工作站(48GB+);② 走在线 API。Mac Studio 等大统一内存机型也可以,但速度取决于内存带宽。来源:https://github.com/meta-llama/llama-modelshttps://github.com/meta-llama/llama-models

以上坑来自 https://github.com/meta-llama/llama-modelshttps://github.com/meta-llama/llama-models 与官方文档。

来源与署名

Mentioned from:https://github.com/meta-llama/llama-modelshttps://github.com/meta-llama/llama-models · 原作者 Meta(Llama 3.3 Community License)。