Google bringt vier TPU-Varianten in einem Jahr und verschärft den Wettbewerb mit Nvidia
Google liefert innerhalb eines Jahres vier TPU-Varianten aus und tritt im KI-Computing stärker gegen Nvidia an.
Google hat nach eigenen Angaben erstmals vier TPU-Systeme innerhalb eines einzigen Jahres ausgeliefert. Die beiden neuesten Varianten zielen auf vertrauliche Daten und speicherhungrige Workloads von Agenten: Die TPU 8tx ist für Confidential Computing gedacht, die TPU 8i Max für speicherintensive Aufgaben. The Decoder wertete die Erweiterung in seinem Bericht zum Launch als Zeichen dafür, dass Google den Wettbewerb mit Nvidia im KI-Computing verschärft.
Keine der beiden Varianten ist eine neue Chipgeneration. Beide basieren auf bestehendem Silizium. Neu sind Packaging, Vernetzung und Speicherkonfiguration rund um denselben Prozessor. Google präsentiert diesen modularen Ansatz als bewusste Designentscheidung, mit der sich neue Hardwarevarianten in Monaten statt Jahren liefern lassen.
Die TPU 8tx setzt an einer Lücke im üblichen Schutz von Daten an. Daten werden bei der Speicherung und bei der Übertragung verschlüsselt, doch ein Prozessor muss sie im Arbeitsspeicher entschlüsseln, bevor er sie verarbeiten kann. Laut Google bleiben Daten und Modellgewichte bei der 8tx auch während dieser aktiven Nutzung geschützt und isoliert. Der Bericht merkt an, dass Nvidia mit seiner Confidential-Computing-Architektur bereits eine vergleichbare Funktion für seine GPUs anbietet. Unternehmen könnten laut Google mit einem einzigen System Modelle feintunen, große Modelle in kleinere destillieren und Agenten per Reinforcement Learning trainieren, ohne sensible Daten zwischen Clustern verschieben zu müssen. Das System nutzt dasselbe latenzarme Boardfly-Netzwerk, das Google für Echtzeit-Inferenz entwickelt hat. Gegenüber der TPU 8t soll es die Latenz bis zu doppelt so stark senken.
Die TPU 8i Max nimmt sich der Speicherbandbreite an, die der Bericht als Engpass beschreibt, wenn viele Agenten gleichzeitig an großen Codebasen oder stundenlangem Videomaterial arbeiten. Googles Antwort: zwei TPU-8i-Chips auf einem Package. Damit verdoppeln sich laut Unternehmen Rechenleistung, Speicher und Speicherbandbreite im selben Rack-Format, was Google als mehr Leistung pro Quadratmeter Rechenzentrumsfläche darstellt.
Zugleich will Google die Einstiegshürde für Entwickler senken. Das Unternehmen hat TorchTPU als Open Source veröffentlicht, damit PyTorch-Code mit minimalen Änderungen auf TPUs läuft; vLLM und SGLang werden unterstützt. Dem Bericht zufolge spiegelt die Erweiterung einen Wandel in Googles Umgang mit seinen TPUs wider: vom internen Werkzeug zur Plattform, die an externe Kunden vermarktet wird. Inzwischen zählt Google fast 100 externe TPU-Kunden.
Der Bericht bringt diesen Vorstoß mit einem breiteren Wandel im Markt in Verbindung. Mit der Verbreitung von KI-Anwendungen verlagert sich der Fokus von großen Trainingsläufen hin zur Inferenz, also dem laufenden Betrieb von Modellen. Dort könnten spezialisierte Chips ihre Stärken ausspielen, so der Bericht. Er verweist darauf, dass auch Amazon, Microsoft und OpenAI eigene Beschleuniger entwickeln. Nvidia hat laut Bericht reagiert und sein eigenes Inferenzangebot durch einen Acqui-Hire- und Lizenzdeal mit Groq gestärkt.
Über die genannten relativen Zugewinne hinaus nennt der Bericht keine absoluten Leistungswerte für die 8tx oder die 8i Max, und er sagt nichts über die Preise der beiden Varianten. Googles eigenes Launch-Material zu den Chips der achten Generation, das die TPU 8t und die TPU 8i beschreibt, weist die Leistungsangaben als Unternehmenszahlen aus, nicht als unabhängige Benchmarks.
Was sich ändert
Art: Neue Funktion · Betrifft: TPU 8tx, TPU 8i Max, TorchTPU
Warum es wichtig ist
Mehr TPU-Optionen geben Käufern eine weitere Alternative zu Nvidia-Hardware, was sich auf Preise und Kapazitätsplanung auswirken kann.
Was Sie tun können
Prüfen Sie, ob Ihre KI-Workloads auf TPUs laufen können, und beziehen Sie diese in Kapazitätsvergleiche ein.
Originalquelle
Weitere Berichte
Wo wir es gesehen haben
THE DECODER
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es