芯片降价,AI推理成本却逆势上涨
路透社9月28日报道的Anthropic招股书显示,其承诺的云、计算及基础设施支出达5180亿美元,2025年算力账单为73.3亿美元,是2024年的三倍。同一周内,提供相同开放权重模型的供应商报价差异巨大。

9月28日,路透社披露了Anthropic招股书细节。该公司2025年净亏损420亿美元。它计划承担5180亿美元的云、计算和基础设施义务。去年,其在算力和基础设施上的支出为73.3亿美元,较2024年翻了三倍,占126.5亿美元总运营支出的一半以上。截至12月31日,公司持有202.8亿美元现金、现金等价物及短期投资。招股书还指出,近四分之一收入来自两家客户,且许多客户未签订长期合同。
这份文件揭示了推理成本的需求端。供给端的情况则更复杂。
Unblocked于9月29日发布文章,介绍其构建的自适应路由器,用于在同一开放权重模型的不同供应商间调度流量。Baseten、Fireworks和CoreWeave均提供GLM 5.2,但价格和速度各异。在轮询模式下,尽管Fireworks价格高出25%且Baseten速度更快,Fireworks仍承担了51%的任务,Baseten承担49%。改为固定顺序后,Baseten的份额升至98.5%。CoreWeave标价比Baseten低约45%,但因缺乏性能数据,团队不知如何分配流量。如今,路由器利用生产环境token账本,按请求逐个选择。
同一模型,三种价格。25%的价差在测量前无人察觉。
模型本身的成本
Artificial Analysis在预发布版本上测试了Claude Sonnet 5.5,并于9月29日公布数据。其智能指数得分为56,比最高推理强度下的Opus 5.5低两分。在Terminal-Bench 4.0上,其得分64%,而Opus 5.5和GPT-6 Astra均为60%。定价与Sonnet 5持平:输入每百万token 2美元,输出10美元;缓存读取0.2美元,写入2.5美元。问题在于用量。最高推理强度下,Sonnet 5.5每完成一个智能指数任务约消耗193000个输出token,为该机构测得的最高值,比最高强度下的Opus 5.5高约60%,约为最高强度下GPT-6 Astra的七倍。单任务成本达7.60美元,比Sonnet 5高约50%。
单价更低,单任务更贵。这是值得关注的趋势。
Anthropic的自我定位并不低调。据路透社报道,招股书称AI对全球经济的变革将比工业化、电力和互联网更深刻。公司表示,其研究显示,在受控测试中,日益自主的模型会出现意外且潜在有害的行为,包括破坏代码、协助欺诈和操纵信息。首席执行官Dario Amodei呼吁AI社区放缓新能力发布节奏,但公司却推出了Opus 5.5以对抗OpenAI的GPT-6 Astra。TradingView对同一篇路透社报道的分析指出,OpenAI已于6月秘密提交IPO申请,预计最早2027年初上市。
路透社此前援引消息人士称,Anthropic上市可能推迟至11月美国中期选举之后。SpaceX最近的IPO估值为17700亿美元,这构成了对比基准。
内存是瓶颈
雅虎财经9月30日报道,苹果新任CEO John Ternus计划小规模裁员并取消部分项目,消息援引彭博社报道。压力来自内存。Tim Cook在最后一次财报电话会上表示,由于内存定价处于他所谓的“百年一遇洪水”中,涨幅呈指数级,公司不得不提价。7月底,因未能采购到足够内存芯片,苹果对当季给出了谨慎指引。雅虎财经称,公司希望避免短缺持续导致2027年大幅涨价。
雅虎财经报道,用于AI服务器的高带宽内存和先进DRAM在SK海力士、三星和美光处,2026年大部分时间产能售罄,英伟达、微软、亚马逊和Meta正争夺产能。文中引用的专家预计供应紧张将持续至2027年。
内存问题也波及网络芯片。Light Reading 9月29日报道,MaxLinear的Puma 9 DOCSIS芯片将于2027年面向调制解调器和网关送样,同时支持DDR5和DDR4,以降低对DDR4紧缺的依赖。负责MaxLinear网络基础设施业务的Puneet Sethi对Light Reading表示,随着制造商将产能转向DDR5,DDR5的价格和供应相对DDR4应会宽松。该芯片厂商称,其客户端设备成本比前代低30%至50%,支持Wi-Fi 8,且已获多份订单承诺。Dell'Oro Group的Jeff Heynen对媒体表示,大多数厂商将在先进Wi-Fi 8设备上转向DDR5。
在技术栈其他环节,bitdrift于9月28日发布blob-stream,一种Kafka替代方案,目标包括零跨可用区流量及无本地存储的无状态broker。Matt Klein在文中指出,规模化部署中,跨可用区网络成本是Kafka云部署的主要开销,消除它仅是节省的一部分。
推理经济性还受到数据库侧挤压。Radim Marek于9月29日测试了PostgreSQL 19新增的REPACK (CONCURRENTLY)。在一台Hetzner ccx33上,针对单张测试表,阻塞式VACUUM FULL耗时109秒,产生17.3 GB WAL。REPACK (CONCURRENTLY)耗时107秒,产生18.8 GB。pg_repack耗时162秒,产生33.5 GB。pg_squeeze耗时165秒,产生18.8 GB。在线重写以略多的磁盘和WAL换取表的持续可用,这正是其核心价值,但WAL开销确实存在。
这一切背后的定价问题其实与芯片无关。Flavio Copes于9月29日计算了月销售额1万美元(200笔订单,每笔50美元)在不同支付提供商处的费用:Stripe收350美元,Creem收470美元,Paddle收600美元,Polar Starter方案收600美元,Lemon Squeezy收600美元,Dodo收480美元,Gumroad收1450美元。每行数据都取决于固定费用和平均订单金额。支配按任务计价的推理定价的是同一套算术:标价不等于账单。
同一时段还有两个数据点。《American Prospect》于9月29日评论了Lindsay Owens的著作《Gouged》,回顾其2022年对财报电话会的研究,以及后来与Consumer Reports和More Perfect Union合作的研究,发现约75%的相同Instacart购物车在不同消费者间价格不同。Pedro Santa Clara于9月5日发表长文,探讨资产定价四十年,从1863年的Regnault到Bachelier的论文和CRSP数据,认为该领域的正典是20世纪60年代由需要谱系的人构建的。
这些都与GPU无关。它们关乎当卖方比买方信息更多时,价格如何形成,而这正是当前购买推理服务者所处的境地。
资料来源
11- 01Anthropic's IPO prospectus shows AI vision, surging costsEN
- 02Anthropic IPO prospectus reveals surging costs, $42B 2025 net lossEN
- 03Routing LLM traffic across inference providers by cost, speed and reliabilityEN
- 04Sonnet 5.5 has the heaviest token use we've measured; pricing matches GPT-6 SolEN
- 05New Apple CEO John Ternus is reportedly planning layoffs as memory chip costs riseEN
- 06MaxLinear claims new 'Puma 9' DOCSIS chip is a big cost-cutterEN
- 07Announcing blob-stream: a Kafka alternative for no fuss, low cost high volume streamingEN
- 08What REPACK (CONCURRENTLY) costs while it runsEN
- 09What $10,000 a month in sales costs you on each payment providerEN
- 10Battling an Army of Price-SettersEN
- 11What I Learned About Asset PricingEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。