Inferenzkosten geteilt: 500-Dollar-ChatGPT-Tarif, 2x schnellere offene Engines, 6 Cent pro Milliarde Tokens

Der neue Plan, vorgestellt am Dienstag auf dem DevDay, bündelt den Zugang zu "Ultrafast"-Rechenleistung für GPT-6 Astra in ChatGPT Work und Codex. Business Insider berichtet, dass für diesen Modus eine 8-fache Geschwindigkeitssteigerung in Codex versprochen wird. Der gleiche Bericht sagt aus, dass OpenAI seinen 200-Dollar-Pro-Tarif wieder öffnet, den es am 10. September ausgesetzt hatte. Das Rechenkontingent sinkt dabei auf das 10-Fache des 20-Dollar-Plus-Tarifs statt auf das 20-Fache. Die Anzahl der GPT-6-Pro-Chatnachrichten fällt von 200 auf 100 pro Woche.

Thibault Sottiaux, Engineering-Leiter für Codex, schrieb am Montag auf X, die Änderungen führten unterm Strich zu halbierten API-Ausgaben im Vergleich zum vorherigen Plan, so Business Insider.

"Ich wollte diese Änderung unbedingt vorab mitteilen, damit ihr sie alle versteht, bevor wir euch mit guten Nachrichten überschütten", schrieb er.

Das ist die Spitze des Marktes. Der Boden bewegt sich schneller.

Offene Engines und selbst abstimmende Kernel

Am 30. September veröffentlichte das von YC unterstützte Unternehmen Magnitude eine Open-Source-Inferenz-Engine. Sie kompiliert und stimmt Kernel auf der Hardware des Nutzers ab, bevor ein Modell läuft. Offene Modelle sollen damit bis zu 2x schneller laufen als mit llama.cpp. Das GitHub-README nennt 92% schnelleres Decoding auf Apples Metal-Backend und 19% auf CUDA. Dazu kommen 27% weniger Speicher pro Agent und gemeinsame Prefix-Caches für gleichzeitige Sitzungen.

Die Engine erscheint als Desktop-App unter Apache 2.0. Sie unterstützt Apple Silicon, NVIDIA, AMD oder reine CPU-Ausführung und verbindet sich mit Pi, OpenCode, Hermes, Codex und anderen Agenten. Zwei Stunden zuvor hatten Modal und das Full Stack Data Lab eine gemeinsame SQL-plus-Inferenz-Engine namens Quail veröffentlicht. Modals Bericht zufolge verarbeitet Quail bei einer Multi-Join-Abfrage auf einer einzigen H100-GPU über eine Milliarde Tokens pro Minute. Das ist mehr als das 10-Fache seiner vLLM-Basislinie auf derselben Hardware, bei unter 6 Cent pro Milliarde Tokens auf Modal. Über den neuen AI-SQL-Benchmark des Teams liegt das geometrische Mittel des Speedups gegenüber vLLM bei 1.84x. Der Beitrag nennt zwei Abfragen, die zeigen sollen, wo der Ansatz noch zurückbleibt.

Die Autoren sagen ausdrücklich, generische Engines hätten für diese Arbeitslast die falsche Form. Im Beitrag des Full Stack Data Lab schreiben Shreya Shankar, Charles Frye, Fergus Finn, Arnav Dhariya, Joseph Barrow und Meryem Arik, dass das Senden von Millionen zusammenhängender Modellaufrufe als einzelne Anfragen an eine Engine wie vLLM hohe Kosten verursache. Ihre Beispielabfrage, BIO-4 im QUAIL-B-Benchmark, filtert 5.000 lange medizinische Berichte gegen 4.144 Reaktionsbegriffe, die zweimal verwendet werden. Eine naive Ausführung macht aus einer SQL-Anweisung damit eine sehr große Zahl von Modellaufrufen.

Der Preisboden ist veröffentlicht, und er ist nicht flach

Der Preisindex von AICostBudget für September, eingefroren mit Stichtag 2026-09-30 UTC, umfasst 81 öffentliche Einträge von 11 Anbietern. Er setzt den mittleren Eingabepreis auf 1,32 Dollar pro Million Tokens und den mittleren Ausgabepreis auf 6 Dollar. Über die 69 Einträge mit beiden Zahlen kostet die Ausgabe im Median das 5,0-Fache der Eingabe. Die beobachteten Spannen reichen von 0,10 bis 30 Dollar pro Million Eingabe-Tokens und von 0,10 bis 180 Dollar pro Million Ausgabe-Tokens.

Derselbe Datensatz liefert Medianwerte je Anbieter: OpenAI bei 2 Dollar Eingabe und 11 Dollar Ausgabe über 18 Einträge, Google Gemini bei 0,75 und 4,125 über 14, Anthropic bei 5 und 25 über 13, xAI bei 1,25 und 2,5 über neun, Mistral AI bei 0,20 und 0,60 über sieben, DeepSeek bei 0,30 und 1,2 über drei und Moonshot AI bei 0,95 und 4 über drei. Über 58 vergleichbare Einträge mit gecachtem Input liegt der mittlere Rabatt bei 90%, über 44 Einträge mit Batch-Preisen liegt der mittlere Batch-Rabatt bei 50%. Wer einen dieser Modi ignoriert, vergleicht Listenpreise, nicht Rechnungen.

Bei der Hardware wird die Debatte schwerer zu entscheiden. EnerTune, ein Paper von Prasoon Sinha, Dimitrios Liakopoulos, Nathan Lemma und Neeraja J. Yadwadkar auf der SOSP '26 am 28. September, argumentiert, dass das alleinige Multiplexen von GPUs zur Steigerung der Auslastung den Energieverbrauch erhöhen kann. Die Autoren berichten, ihr energiebewusstes Bin-Packing-System erfülle Leistungs-SLOs und senke zugleich den Energieverbrauch um das 1,4- bis 2,3-Fache und die Leistungsaufnahme um das 1,3- bis 2,6-Fache gegenüber dem Stand der Technik.

Nicht jede Kostennachricht dieser Woche dreht sich um Rechenzentren. Am 29. September ausgewertete Daten von Transport & Environment setzen die Betriebskosten von Elektroautos auf weniger als die Hälfte der Dieselkosten pro Kilometer. Grundlage sind 6,9 Liter pro 100 km für Diesel und 20,2 kWh pro 100 km für Batterieelektrische bei einem Strompreis von EUR 0,343 pro kWh. Diesel-Fahrer zahlen laut ECB-Schätzungen, die CleanTechnica zitiert, 32 EUR mehr pro 50-Liter-Tank als zu Jahresbeginn, davon etwa 16 EUR zusätzliche Raffineriemarge.

Zwei Lehren der Woche liegen ganz außerhalb der KI. Pinecone entfernte den Preisrechner von seiner Preisseite, nachdem ein A/B-Test ergab, dass Besucher, die ihn nicht sahen, sich 16% häufiger anmeldeten und 90% häufiger das Unternehmen kontaktierten. Dabei stiegen die Support-Tickets zum Preis nicht, so Gründer Greg Kogan. Und in der Telekommunikation berichtete Light Reading am 30. September, dass Singapurs StarHub und M1 Fusionsgespräche führen, während Neuseelands 2degrees und OneNZ vorgeschlagen haben, ihre Funkzugangsnetze zusammenzulegen.

Der rote Faden: Wenn eine Arbeitseinheit billig genug wird, hören Käufer auf, den Rechner zu lesen, und beginnen, die Rechnung zu messen.