Google stellt TPU 8tx und 8i Max vor, Cloud Pathways allgemein verfügbar
Google hat zwei TPU-Systeme vorgestellt, den 8tx für vertrauliche Inferenz und den 8i Max, und Cloud Pathways auf Google Kubernetes Engine allgemein verfügbar gemacht.
Google hat zwei TPU-Systeme vorgestellt. Der 8tx zielt auf vertrauliche Inferenz: Modelle laufen dabei auf Daten, die auch während der Verarbeitung geschützt bleiben sollen. Der 8i Max vereint zwei Chips in einem Package und ist für Workloads mit großen Kontextfenstern gedacht. Das Kontextfenster ist die Textmenge, die ein Modell auf einmal berücksichtigen kann.
Zudem ist Cloud Pathways nun auf Google Kubernetes Engine allgemein verfügbar. Google beschreibt es als die verteilte Laufzeitumgebung, die das Unternehmen selbst für Gemini nutzt. Das vorliegende Material nennt für keines der beiden TPU-Systeme Benchmark-Ergebnisse, Preise oder Verfügbarkeitstermine. Die Angaben stützen sich daher auf die Namen und den vorgesehenen Einsatzzweck.
Was sich ändert
Art: Neue Funktion · Betrifft: TPU 8tx, 8i Max, Cloud Pathways, Google Kubernetes Engine
Warum es wichtig ist
Unternehmen, die auf Google Cloud Inferenz mit großem Kontext oder vertrauliche Inferenz betreiben, erhalten neue Hardwareoptionen. Pathways steht ihnen nun auch für eigene verteilte Workloads zur Verfügung.
Was Sie tun können
Vergleichen Sie den 8i Max und den 8tx mit Ihren aktuellen Beschleunigern für Inferenz-Workloads mit langem Kontext oder vertraulichen Daten.
Originalquelle
Für diese Meldung haben wir noch keinen Link zur Originalquelle.
Weitere Berichte
Wo wir es gesehen haben
Forward Future (Matthew Berman), Turing Post
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es