ithome
科技
采集 2026-10-23T04:10:10+00:00
报告称2026年国内大模型均价翻倍
原始标题:报告称 2026 年国内大模型均价翻倍,每秒吞吐量也翻倍
来源
ithome
发布时间
2026-10-23T03:51:58
采集批次
2026-10-23-04
字数
1030
URL 指纹
95e54591dad4ce7a
📌 AI 总结(196 字)
中国信通院等机构发布《大模型词元服务性能监测报告(2026年)》,基于今年一至八月数据,对国内外大模型在吞吐量、首词时延、稳定性、价格和上下文长度等方面的表现进行比较。报告显示,国内大模型调用量和每秒输出词元数明显增长,但均价接近翻倍、首词时延有所上升;国外模型吞吐量整体领先,价格也显著高于国内。报告还指出,平台推理与优化能力差异会导致同一模型的服务表现分化,为用户选型及行业优化提供参考。
📄 正文(1030 字)
中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室、中国人工智能产业发展联盟联合发布《大模型词元服务性能监测报告(2026年)》。报告基于今年一至八月的监测数据,比较原厂大模型官方平台,以及DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的服务表现,分析词元调用成功率、吞吐速度、首词时延、稳定性、价格和上下文窗口等指标,为用户选型及产业优化提供参考。 报告称,我国大模型词元调用需求持续增长。二〇二六年六月,国内词元日均消耗量约为五百万亿,是二〇二五年十二月的近四倍。词元服务已经成为大模型从技术走向应用的重要环节,但用户仍缺乏直观的性能判断依据,平台选型也面临困难。 吞吐速度方面,今年八月国内各模型平均每秒输出词元数达到七十八点二三个,较二〇二五年平均三十八点二五个实现翻倍。同期国外典型模型平均每秒输出词元数为一百一十二点八二个,较二〇二五年十二月的五十一点三五个提升超过一倍,整体表现优于国内。 首词时延方面,国内模型八月的平均值达到一点二六秒,高于二〇二五年平均的零点七八秒;国外典型模型八月平均值为二点零八秒,也较今年四月的一点零四秒明显增加。报告指出,时延上升并不意味着单纯性能退化,而是与模型参数量、上下文长度和调用量增加等因素同步发生有关。 价格方面,经历过去两年的价格战后,今年国内外模型服务价格均出现上涨。国内二〇二五年下半年归一化均价为六点八元,今年以来均价升至十三点四六元,增幅接近一倍。国外价格仍明显高于国内,今年发布的典型模型平均归一价格约为一百一十七点八元。 上下文能力持续增强。被监测模型中,上下文长度达到一百万词元的模型占百分之四十七点八,二百K及以上模型合计占百分之九十五点七,比二〇二五年底提高超过七十六个百分点,二百K以下模型占比则持续下降。 报告还称,五月更新监测的四款开源模型新版本,吞吐速度继续提升、首词时延不断压缩。例如,八月DeepSeek-V4-Pro的每秒输出词元数已达到DeepSeek-V3.2的两倍。模型换代升级后首词时延一度阶段性上升,但随着推理优化措施落地,时延逐步回落至换代前水平。 同一模型在不同平台上的每秒输出词元数、首词时延和调用成功率并不一致,部分第三方平台表现明显优于官方服务,同一模型在不同平台间的吞吐速度差距最大接近一倍。报告认为,各平台在推理加速、优化策略和成本控制方面的差异,是服务性能分化的重要原因。