这里推荐一个本地微调大模型的框架。
ZO2,一个仅用18G显存就能全参微调175B大模型的框架(当然也支持微调小一些的模型)。
更新:现在ZO2支持Qwen3啦,全参微调32B的版本只需要6GB显存。
Code: ***s://github***/liangyuwang/zo2 Paper: ***s://arxiv.org/abs/2503.12668。
{dede:pagebreak/}
Python+rust会是一个强大的组合吗?
现在网上把清朝说得一无是处,但是为什么能统治268年?
得了强直性脊柱炎是不是一辈子就完了?
苹果从 2026 年发布的 macOS 27 起不再兼容任何 Intel Macs,这背后原因有哪些?
多个充电宝或电芯品牌的 3C 认证证书被暂停,涉及罗马仕、安克、绿联、倍思、安普瑞斯等,发生了什么?
一个练过功夫的姑娘能打过一个没练过的男人吗?
为什么 Android 和 iOS 渲染架构不一样,各有什么优劣势?
switch2好用吗朋友们?
为什么说索尼相机的色彩科学薄弱?
为什么中大型鹦鹉一直都不开放售卖?有哪些原因呢?
黄晓明上戏考博落榜,本人回应「明年再战」,怎样看明星对高学历的追求?上戏博士有多难考?
网传广东怀集洪水后赵一鸣超市被哄抢,县***回应相关单位正在核实,若属实哄抢者该承担哪些法律责任?
腾讯开源的 libco 号称千万级协程支持,那个共享栈模式原理是什么?
网上有什么可以做的副业,或者是挣钱的方法?
小米澎湃OS保留了多少安卓代码?
如何评价「尖叫」这种饮料?