中国算力供应商:软件才是关键
“1.5张6000D胜过1张B300”,一家中国云服务商这样总结推理优化。浪潮信息则指出,到2030年算力缺口将达3810亿美元。

讨论AI成本时,大家通常先盯着显卡价格。中国基础设施供应商是石科技(METASTONE)认为,更大的优化空间在软件。该公司优化了DeepSeek-V4.1-Flash的运行方式,让模型仅通过PCIe连接的八张卡即可运行,无需高速卡间总线。
量子位报道的数据显示,输入吞吐量从每秒1932个token提升至13274个token,增幅达6.87倍。关键在于补齐计算内核、重构卡间通信以及复用上下文缓存。公司总结道:“1.5张6000D胜过1张B300。”这意味着,只要计算编排得当,更便宜、更慢的硬件也能击败更昂贵的硬件。该公司在十几座数据中心管理着超过2万P的算力,服务可用性承诺高于99.95%。
另一个声音来自浪潮信息。在AICC 2026大会上,它引用IDC数据指出:全球AI算力需求满足率在2024年为79%,2027年降至71%,2030年约为77%。供需缺口预计达到3810亿美元,是2024年的十倍。token消耗量按累计口径年均增长超48倍,推理任务量到2030年将达到每年4000万亿次。
浪潮信息以硬件回应。SD200 Ultra系统在单台机器内集成128颗芯片、8TB内存和64TB存储,支持运行万亿参数模型,无需拆分至多个机柜。全对全通信延迟已降至0.69微秒。
对算力买家而言,单token成本不再仅由硬件价格决定。它越来越取决于供应商如何利用现有资源,这也改变了云服务招标的规则。
这一结论很实际。既然仅通过重写缓存处理和任务分摊就能实现数倍吞吐量提升,那么在采购新一代硬件前,应先进行软件审计。能在同一基础设施上提供实测数据的供应商,卖出的不仅是算力,更是成本节约。这也是中国数据中心运营商应对出口限制的直接方式:在无法购买最强显卡时,提升现有设备效率至关重要。
资料来源
2本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。