国产大模型再度开源,开发者社区连夜跟进微调
科技组 · 顾言2 小时前阅读约 4 分钟384 条讨论
一款支持长上下文的开源大模型昨日发布权重,多个开发者社区在数小时内上线了推理与微调脚本,讨论集中在部署成本与中文表现。
昨天下午,一个主打长上下文处理的开源大模型放出了模型权重与推理代码。发布会结束后不久,国内多个开发者社区就出现了第一批部署教程。
有开发者在当天深夜完成本地微调,并在社区分享了显存占用与推理速度的实测数据。讨论的焦点集中在两点:一是消费级显卡能否跑动,二是中文长文本任务的实际表现。
一位参与适配的工程师向本频道表示,这次开源的一个亮点是推理框架适配做得比较完整,降低了上手门槛,「过去要折腾一两天,现在半天能跑通」。
随着开源模型迭代加快,行业关注点正从「能不能用」转向「在具体场景里省不省钱」。有团队已经把它接入客服知识库的检索环节,用来压缩响应时间。
你也有第一手线索?
把你看到的告诉我们,核实后我们会第一时间跟进。
相关推荐
科技快讯3 分钟
折叠屏手机销量同比翻番,轻薄化成新战场
多家调研机构的数据显示,折叠屏手机上半年出货量同比接近翻番。厂商的竞争重点,正从「折得起来」转向「折起来也够薄」。
科技组 · 孟舟3 小时前268
科技快讯3 分钟
短视频平台上线青少年模式新版本,家长可远程管理
多家短视频平台更新了青少年模式,新增使用时长提醒与家长远程管理功能。如何平衡保护与体验,仍是讨论的核心。
科技组 · 顾言11 小时前466