网站地图
包装印刷加工
包装检测设备
包装机械
包装防伪
夜视仪
眼镜盒

服务热线

当前位置： 首页 >

目前有什么可以本地部署的大模型推荐?

这里推荐一个本地微调大模型的框架。

ZO2，一个仅用18G显存就能全参微调175B大模型的框架（当然也支持微调小一些的模型）。

更新：现在ZO2支持Qwen3啦，全参微调32B的版本只需要6GB显存。

Code： ***s://github***/liangyuwang/zo2 Paper： ***s://arxiv.org/abs/2503.12668。

目前有什么可以本地部署的大模型推荐?
相关标签：{dede:tag row='20' sort='rand'}{/dede:tag}
上一篇 : 如何评价 GraalVM 这个项目？ 下一篇 : 超级喜欢穿短裙正常吗?
相关产品
新闻资讯

快速导航

产品中心

联系我们

热线电话：

联系人：

手机：

邮箱：

地址：

扫一扫 关注我们

粤IP*******|网站地图
版权@|备案:粤IP*******|网站地图 网站备案号：