国产大模型再度开源,开发者社区连夜跟进微调

科技组 · 顾言2 小时前阅读约 4 分钟384 条讨论
开源大模型发布与开发者讨论的概念插画

一款支持长上下文的开源大模型昨日发布权重,多个开发者社区在数小时内上线了推理与微调脚本,讨论集中在部署成本与中文表现。

昨天下午,一个主打长上下文处理的开源大模型放出了模型权重与推理代码。发布会结束后不久,国内多个开发者社区就出现了第一批部署教程。

有开发者在当天深夜完成本地微调,并在社区分享了显存占用与推理速度的实测数据。讨论的焦点集中在两点:一是消费级显卡能否跑动,二是中文长文本任务的实际表现。

一位参与适配的工程师向本频道表示,这次开源的一个亮点是推理框架适配做得比较完整,降低了上手门槛,「过去要折腾一两天,现在半天能跑通」。

随着开源模型迭代加快,行业关注点正从「能不能用」转向「在具体场景里省不省钱」。有团队已经把它接入客服知识库的检索环节,用来压缩响应时间。

你也有第一手线索?

把你看到的告诉我们,核实后我们会第一时间跟进。

去爆料

相关推荐