ithome
科技
汽车
采集 2026-11-17T16:08:55+00:00
商汤发布SenseNova Loop-9B模型
原始标题:商汤发布 SenseNova Loop-9B 模型:部署显存需求低至 10 GB 内
来源
ithome
发布时间
2026-11-17T13:56:34
采集批次
2026-11-17-16
字数
880
URL 指纹
f58983b0a12d5e41
📌 AI 总结(163 字)
商汤科技发布SenseNova Loop-9B模型,采用共享参数循环结构和流形约束超连接,在约90亿参数规模下扩展模型计算深度,重点面向复杂推理、代码、工具调用及多模态任务。官方称其4bit量化后权重约4.9GB,部署显存可低至10GB,部分Agent和数据分析评测表现与Qwen3.8-27B相当,模型权重与相关代码已开放。
📄 正文(880 字)
商汤科技近日正式发布SenseNova Loop-9B模型。该模型延续Preview版本对参数效率的探索,通过Loop结构复用模型层参数,并结合流形约束超连接(mHC),在约90亿参数规模下扩展计算深度,主要面向复杂推理、代码、工具调用和多模态任务。 得益于Loop的高效循环结构,模型官方4bit量化后的权重约为4.9GB,部署显存需求可低至10GB以内,有助于扩大可部署硬件范围,让低显存设备运行具备27B级别模型性能的前沿模型成为可能。模型总参数量约为9B,通过两次执行共享的中间层,将32个物理解码层扩展为56次层计算;支持文本、图像输入和文本输出,上下文长度最高可达512K tokens。 官方表示,在Agent与数据分析评测中,SenseNova Loop-9B展现出与Qwen3.8-27B相当的竞争力。其中,NL2Repo得分为41.36,接近后者的44.60;AIDABench得分为65.31,略高于后者的65.01。 模型采用共享循环模块,将第4至27层组成共享权重的循环模块并执行两次,使模型能够在一次前向传播中完成56次解码器层计算。解码器还引入双流mHC设计,通过可学习映射对循环模块中的两条残差流进行信息路由与融合。 在注意力机制方面,解码器以四层为一组,采用三层线性注意力与一层全注意力相结合的混合注意力配置。训练方案覆盖文本、图像、代码和工具调用轨迹,并将上下文长度最高扩展至512K tokens,从而支持长上下文多模态任务。 针对低资源私有化部署,模型采用4bit权重量化与8bit KV缓存时,256K长上下文推理的显存需求约为15GiB,可降低本地及私有化部署门槛。模型发布首日同步提供官方AWQ 4bit量化版本,方便用户快速部署。 目前,SenseNova Loop-9B已开放模型权重及相关代码,供开发者和研究者下载、部署与探索。官方评测显示,正式版在通用Agent、代码和数据分析等任务上的多个榜单中较Preview版本有明显提升,并在约90亿参数规模下展现出与Qwen3.8-27B相当的性能。