🌀 AIBB-Flywheel

新闻数据飞轮
← 返回文章列表
ithome 科技 采集 2026-10-24T16:09:46+00:00

中国信通院发布词元服务性能监测报告

原始标题:中国信通院:6 月国内词元日均消耗量约 500 万亿,是 2025 年 12 月的近 4 倍

来源
ithome
发布时间
2026-10-24T14:41:49
采集批次
2026-10-24-16
字数
924
URL 指纹
0cc19f6256db8431

📌 AI 总结(155 字)

中国信通院联合相关机构发布《大模型词元服务性能监测报告(2026年)》,基于今年1至8月数据评估国内外大模型服务。报告显示,国内日均词元消耗量约500万亿,吞吐量较2025年翻倍,但仍低于国外;价格明显上涨,首词时延受模型和上下文规模扩大影响上升。开源模型性能持续提升,不过同一模型在不同平台上的表现差异明显。
📄 正文(924 字)
中国信息通信研究院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室和中国人工智能产业发展联盟,联合发布《大模型词元服务性能监测报告(2026年)》。报告基于2026年1至8月的监测数据,从调用成功率、每秒输出词元数、首词时延、稳定性、价格和上下文窗口等维度,比较原厂大模型官方平台,以及DeepSeek、Qwen、GLM、Kimi四款开源模型在第三方平台上的性能差异。

报告指出,随着大模型技术快速迭代,词元服务成为产业应用的重要支撑。2026年6月,我国日均词元消耗量约500万亿,是2025年12月的近4倍。越来越多的模型即服务平台通过公有云API提供词元服务,但用户仍缺乏直观的性能判断依据,面临选型困难等问题,相关监测旨在为企业应用和平台优化提供参考。

在吞吐量方面,2026年8月国内各模型平均每秒输出词元数达到78.23个,较2025年均值38.25个实现翻倍。不过同期国外典型模型平均值为112.82个,也较2025年12月明显提升,整体仍优于国内。

国内模型平均首词时延持续上升,8月达到1.26秒,高于2025年平均的0.78秒;国外典型模型8月平均首词时延同样升至2.08秒。报告认为,这并非单纯性能退化,而是模型参数量、上下文长度和调用量同步增加所致。

经历此前价格战后,2026年国内外模型服务价格明显上涨。国内2025年下半年归一化均价为6.8元,今年以来升至13.46元,接近翻倍;国外典型模型平均归一化价格约为117.8元,仍高于国内。

模型上下文长度正向百万词元级扩展。被监测模型中,上下文长度达到100万词元的占47.8%,达到20万词元及以上的合计占95.7%,较2025年底提高超过76个百分点。

开源模型词元服务性能也在提升。8月,DeepSeek-V4-Pro的每秒输出词元数已达到DeepSeek-V3.2的两倍;模型换代后首词时延曾阶段性上升,但随着推理优化措施落地,逐步回落至换代前水平。同一模型在不同平台上的调用成功率、吞吐速度和时延表现不一,部分第三方平台优于官方平台,最大吞吐量差距接近一倍。各平台采用的推理加速、优化策略和成本控制方式不同,是性能分化的重要原因。