摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》，宣布基于旗舰级AI训推一体智算卡MTT S5000构建Prefill As a Service新范式，面向AI Agent、代码生成、超长文档分析等长上下文推理场景，为行业提供兼顾推理效率、成本控制与算力变现的可落地路径。

据摩尔线程介绍，随着大模型输入上下文规模快速迈入数百K到1M级别，长文本输入带来的算力消耗与首字时延压力持续攀升，正日益成为制约企业推理服务效率与总拥有成本（TCO）的关键瓶颈。传统同构集群的算力部署模式，已难以应对不同计算阶段对硬件资源的差异化需求。

核心痛点在于结构性错配：在大模型在线推理中，输入阶段的Prefill（预填充）属计算密集型任务，受浮点算力约束；输出阶段的Decode（解码）属访存密集型任务，受显存带宽约束。

两者在同一物理资源池中混跑，必然导致双向浪费——按Decode带宽选型，则Prefill的大容量显存长期低效；按Prefill算力选型，则Decode计算单元大面积空转。《白皮书》指出，突破这一瓶颈的关键在于将Prefill与Decode彻底解耦，使二者各自运行在最契合自身计算特性的硬件资源池上：

Prefill算力池：专攻高算力利用率与极低首字延迟（TTFT）；

Decode资源池：专攻高并发与稳定的每Token延迟（ITL）。

通过硬件分层投入，算力配置从通用冗余转向按需匹配，在满足服务质量（SLO）约束的前提下，实现单位Token基础设施成本下降。