AI News
Alle Meldungen
Offiziell

Anthropic: Claude läuft auf vier Chipfamilien, AMD-Portierung in drei Tagen

Laut dem Video zur IPO-Roadshow von Anthropic läuft Claude inzwischen auf vier Chipfamilien, und eine KI-gesteuerte Portierung auf AMD soll drei Tage gedauert haben.

Chips und Infrastruktur · · 2 Min. Lesezeit

Nach Angaben von Anthropic wird Claude inzwischen auf vier Chipfamilien trainiert und betrieben: AWS Trainium, Google TPUs, NVIDIA GPUs und AMD GPUs. Die Aussage stammt aus dem Abschnitt von Mitgründer Tom Brown im Video zur IPO-Roadshow, das das Unternehmen zum Start der Roadshow veröffentlicht hat. Ein offizielles Transkript gibt es nicht, deshalb hat Simon Willison eines aus dem Video erstellt. Die folgenden Zitate stammen aus diesem Transkript und aus einer Textfassung desselben Abschnitts.

Brown führt die Multi-Chip-Strategie auf eine Wette zurück, die das Unternehmen nach eigener Darstellung früh eingegangen ist. Jeder Chip braucht einen eigenen Software-Stack und einen eigenen Inferenz-Stack. Brown nennt deren Aufbau teuer und schwierig und sagt, Anthropic mache das seit Jahren. Der Nutzen sei Flexibilität, argumentiert er. In einem Markt mit knappem Angebot könne das Unternehmen bei jedem Anbieter das beste Preis-Leistungs-Verhältnis wählen und Chips passend zur Aufgabe einsetzen, da sich manche besser für das Training und andere besser für die Inferenz eignen. Zudem könne es Chips über Anbieter, Architekturen und Standorte hinweg als einen einzigen Rechenpool behandeln. Das Video nennt keine Zahlen dazu, was dieser Pool kostet oder welcher Anteil von Claude auf welchem Chip läuft. Die Angabe zu den vier Chipfamilien beschreibt also eine Fähigkeit, nicht die Verteilung der Arbeitslast.

Die konkreteste Aussage betrifft AMD. Laut Brown hat Anthropic in diesem Jahr begonnen, mit AMD GPUs zu arbeiten. Früher habe die Einbindung einer neuen Chipplattform Dutzende Ingenieure monatelang beschäftigt. Diesmal habe das Unternehmen Mythos einen Versuch machen lassen. In seinen Worten habe es „Claude in nur drei Tagen auf AMD zum Laufen gebracht, praktisch ohne menschliches Eingreifen“, und Claude habe „fast 100% der Kernels portiert oder geschrieben“. Kernels sind die hardwarenahen Routinen, die die eigentlichen Berechnungen auf einem Chip ausführen. Das Transkript sagt nichts darüber, was die Portierung umfasste, wie leistungsfähig sie war oder wie viele Ingenieure das Ergebnis geprüft haben. Die Angabe von drei Tagen gibt daher die Darstellung des Unternehmens zu seinem eigenen Prozess wieder.

Der zweite Teil von Browns Argumentation dreht sich um sogenannte Compute-Multiplikatoren. Anthropic misst das, was das Unternehmen gesamte effektive Rechenleistung nennt, als physische Kapazität multipliziert mit den gefundenen Multiplikatoren. Sein Beispiel: Braucht ein Modell 100 Einheiten Rechenleistung, ließe es sich mit einem 4x-Multiplikator mit 25 Einheiten trainieren, oder dieselben 100 Einheiten würden für ein Modell reichen, das sonst 400 bräuchte. Laut Brown bauen die Multiplikatoren aufeinander auf, weil jeder neue die zuvor gefundenen verbessert. Er erwartet, dass Claude irgendwann selbst Multiplikatoren findet, wenn sich das Unternehmen dem nähert, was er rekursive Selbstverbesserung nennt. Dieser letzte Punkt ist eine Prognose, kein Ergebnis. Das Video nennt keinen konkreten Multiplikator und erklärt nicht, wie man einen findet. Über den illustrativen Faktor 4x hinaus berichtet es auch keinen gemessenen Zugewinn.

Im Roadshow-Abschnitt heißt es außerdem, dass Anthropic neben dem Einkauf von Cloud-Rechenleistung inzwischen auch Chips least und sie in Rechenzentren betreibt, die eigens für das Unternehmen gebaut wurden. Das Unternehmen nennt dieses Modell Anthropic direct. Laut Brown senkt es die Gesamtbetriebskosten und trennt die Verpflichtung für das Rechenzentrum von den Chips. Willison verweist zudem auf eine Fehleranalyse von Anthropic vom September zu Bugs, die nur die TPU-Deployments betrafen. Er sah darin einen frühen Hinweis auf die Multi-Chip-Arbeit.

Was sich ändert

Art: Neue Funktion · Betrifft: Claude, AWS Trainium, Google TPUs, NVIDIA GPUs, AMD GPUs

Warum es wichtig ist

Treffen die Angaben zu, kann Anthropic Claude zwischen mehreren Anbietern von Beschleunigern verschieben, was die Hardware-Basis der Modelle verbreitern könnte, auf die sich Kunden verlassen. Die Zahlen stammen aus Aussagen des Unternehmens in einem Video zur IPO-Roadshow und sind nicht unabhängig überprüft.

Originalquelle

Weitere Berichte

Wo wir es gesehen haben

1 Quelle

Simon Willison

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es