推理成本两极分化：ChatGPT 月费 500 美元，开源引擎提速 2 倍，每十亿 token 6 美分

新方案在周二 DevDay 上公布，包含 ChatGPT Work 和 Codex 中 GPT-6 Astra 的“Ultrafast”算力。Business Insider 称，该模式下 Codex 承诺提速 8 倍。同一报道指出，OpenAI 将重新开放每月 200 美元的 Pro 方案。该方案曾在 9 月 10 日暂停。重启后，算力额度减半，从 20 倍于每月 20 美元 Plus 档降至 10 倍；GPT-6 Pro 的每周聊天消息数也从 200 条减至 100 条。

Codex 工程负责人 Thibault Sottiaux 周一在 X 上发文称，与旧方案相比，这些变化使 API 支出减半。Business Insider 引用了这一说法。

“我想提前分享这一变化，让大家在好消息到来之前先理解它。”他写道。

这是市场的高端。低端变化更快。

开源引擎与自调优内核

9 月 30 日，YC 支持的 Magnitude 发布了一款开源推理引擎。它在模型运行前，先在用户自有硬件上编译并调优内核，声称开源模型运行速度最高可比 llama.cpp 快 2 倍。GitHub README 显示，在 Apple Silicon 的 Metal 后端上解码速度提升 92%，CUDA 上提升 19%；每个 agent 内存占用减少 27%，并为并发会话提供共享前缀缓存。

该引擎以 Apache 2.0 许可的桌面应用形式发布，支持 Apple Silicon、NVIDIA、AMD 或纯 CPU，可连接 Pi、OpenCode、Hermes、Codex 及其他 agent。两小时前，Modal 和 Full Stack Data Lab 联合发布了名为 Quail 的 SQL 加推理引擎。Modal 的文章称，Quail 在单块 H100 GPU 上处理多表连接查询时，每分钟可处理超过十亿 token，比同一硬件上的 vLLM 基线快 10 倍以上，在 Modal 上每十亿 token 成本低于 6 美分。在该团队新的 AI-SQL 基准测试中，相对 vLLM 的几何平均加速比为 1.84 倍。文章还列举了两个查询，以展示该方法仍存在的不足。

作者明确指出，通用引擎不适合此类负载。在 Full Stack Data Lab 的帖子中，Shreya Shankar、Charles Frye、Fergus Finn、Arnav Dhariya、Joseph Barrow 和 Meryem Arik 写道，将数百万次相关模型调用作为独立请求发送给 vLLM 等引擎，成本高昂。他们举的例子是 QUAIL-B 基准中的 BIO-4 查询：它用 4,144 个反应词对 5,000 份长医疗报告进行两次过滤，朴素执行会将一条 SQL 语句转化为大量模型调用。

价格下限已公布，且并不平坦

AICostBudget 的 9 月价格指数以 2026-09-30 UTC 为截止点冻结，覆盖 11 家供应商的 81 条公开记录。数据显示，输入价格中位数为每百万 token 1.32 美元，输出价格中位数为 6 美元。在同时包含两项数据的 69 条记录中，输出价格中位数是输入的 5.0 倍。观察到的区间为：每百万输入 token 0.10 至 30 美元，每百万输出 token 0.10 至 180 美元。

同一数据集提供了各供应商的中位数：OpenAI 在 18 条记录中为输入 2 美元、输出 11 美元；Google Gemini 在 14 条中为 0.75 美元和 4.125 美元；Anthropic 在 13 条中为 5 美元和 25 美元；xAI 在 9 条中为 1.25 美元和 2.5 美元；Mistral AI 在 7 条中为 0.20 美元和 0.60 美元；DeepSeek 在 3 条中为 0.30 美元和 1.2 美元；Moonshot AI 在 3 条中为 0.95 美元和 4 美元。在 58 条可比的缓存输入记录中，折扣中位数为 90%；在 44 条批量定价记录中，批量折扣中位数为 50%。忽略其中任何一种模式，比较的就只是标价，而非实际账单。

硬件层面更难得出定论。9 月 28 日在 SOSP '26 上，Prasoon Sinha、Dimitrios Liakopoulos、Nathan Lemma 和 Neeraja J. Yadwadkar 发表的论文 EnerTune 指出，单纯为提高利用率而多路复用 GPU 可能增加能耗。作者报告称，其能耗感知装箱系统在满足性能 SLO 的同时，相比最先进基线将能耗降低 1.4 至 2.3 倍，功耗降低 1.3 至 2.6 倍。

本周的成本新闻并非都关于数据中心。Transport & Environment 在 9 月 29 日分析的数据显示，基于柴油每 100 公里 6.9 升、纯电每 100 公里 20.2 kWh 以及每 kWh 0.343 欧元的电价，电动车每公里运行成本不到柴油车的一半。据 CleanTechnica 引用的欧洲央行估算，柴油车主每加满 50 升油箱比年初多付 32 欧元，其中约 16 欧元是额外的炼油利润。

本周还有两条与 AI 无关的教训。Pinecone 从定价页移除了价格计算器。创始人 Greg Kogan 称，A/B 测试发现，未看到计算器的访客注册概率高 16%，联系公司的概率高 90%，且定价支持工单未增加。电信方面，Light Reading 在 9 月 30 日报道，新加坡的 StarHub 和 M1 正在洽谈合并，新西兰的 2degrees 和 OneNZ 提议合并双方的无线接入网。

贯穿其中的线索是：当单位工作的成本足够低时，买家不再盯着计算器，而是开始核算账单。