推荐精英
推荐新闻
- 2025-06-20 09:50:12你的低成本爱好是什么
- 2025-06-20 08:55:13为什么人到中年，很少
- 2025-06-20 09:10:12postgres集群
- 2025-06-20 08:20:12Gemini 2.5
公司新闻
目前有什么可以本地部署的大模型推荐?
来源：未知添加时间：
2025-06-22 07:00:10 点击：
这里推荐一个本地微调大模型的框架。
ZO2，一个仅用18G显存就能全参微调175B大模型的框架（当然也支持微调小一些的模型）。
更新：现在ZO2支持Qwen3啦，全参微调32B的版本只需要6GB显存。
Code： ***s://github***/liangyuwang/zo2 Paper： ***s://arxiv.org/abs/2503.12668。
