• 有人说24GB和48GB内存容量是新一代电脑平台最均衡的方案,真的是这样吗?电脑内存应该如何选?
  • 想看看大家跟crush的聊天记录?
  • 为什么Rust的包管理器Cargo这么好用?
  • 为什么Steam Deck能做好Windows游戏转译但是Apple Mac就做不好?
  • 为什么现在的电影***都是夸克网盘?

诚信为本,市场在变,诚信永远不变...        

0896-98589990
新闻资讯
您的当前位置: 首页 > 新闻资讯

目前有什么可以本地部署的大模型推荐?

发布时间:2025-06-22 05:40:10

分享到:

这里推荐一个本地微调大模型的框架。

ZO2,一个仅用18G显存就能全参微调175B大模型的框架(当然也支持微调小一些的模型)。

更新:现在ZO2支持Qwen3啦,全参微调32B的版本只需要6GB显存。

Code: ***s://github***/liangyuwang/zo2 Paper: ***s://arxiv.org/abs/2503.12668。

目前有什么可以本地部署的大模型推荐?

上一篇 : 想自己做一本书,用什么排版软件?

下一篇 : 为什么中国主机带宽比美国贵5倍(原来错误的10000倍),比如阿里云?