Firmen für optisches Rechnen streben bei KI-Inferenz 10- bis 80-mal höhere Energieeffizienz an als GPUs
Laut IEEE Spectrum streben Firmen für optisches Rechnen eine 10- bis 80-mal höhere Energieeffizienz an als heutige GPUs. Im großen Maßstab ist dieses Ziel noch nicht nachgewiesen.
Unternehmen für optisches Rechnen wollen eine 10- bis 80-mal bessere Energieeffizienz erreichen als heutige GPUs, berichtet IEEE Spectrum. Schlüssig belegt ist dieser Energievorteil bisher nicht, und im großen Maßstab wurde das Ziel noch nicht gezeigt. Die Bewertungen der Branche summieren sich inzwischen auf 2,22 Milliarden US-Dollar, nach 0,4 Milliarden Dollar im Jahr 2022. Einen Großteil dieses Interesses führt der Artikel auf die KI-Inferenz zurück, deren Strombedarf den Bau neuer Rechenzentren vorantreibt.
Das Argument für die Optik beruht auf einer Skalierungsüberlegung, die auf einen Vorschlag von Joseph W. Goodman und Kollegen aus dem Jahr 1978 zurückgeht. Leuchtdioden codieren einen Vektor in Lichtintensität. Eine Zylinderlinse kopiert diesen Vektor über ein Raster, und ein fester Abschwächer mit einem Pixel pro Matrixelement multipliziert jede Kopie mit einem Matrixwert. Eine zweite Linse summiert die Ergebnisse Zeile für Zeile, Detektoren lesen das Ergebnis aus. Die Multiplikation einer N-mal-N-Matrix mit einem Vektor der Länge N erfordert in der Elektronik N zum Quadrat Multiplikationen, der Energiebedarf wächst also mit N zum Quadrat. In der Optik laufen die Multiplikationen passiv ab, sobald die Matrix feststeht. Die wesentlichen Kosten entstehen beim Codieren des Vektors und beim Auslesen des Ergebnisses, und diese wachsen nur mit N.
Bei einer Demonstration an der Cornell University im Jahr 2022 unter der Leitung von Peter McMahon verbrauchte ein optisches neuronales Netz pro Multiplikation weniger als die Energie eines Photons, rund 2,5 x 10-19 Joule. Eine einzelne Multiplikation in einem Standardcomputer kann zwischen 10-14 und 10-12 Joule kosten, was nahelegt, dass die Optik den Energieverbrauch um den Faktor 100.000 senken könnte. McMahon warnt jedoch vor dieser Hochrechnung, weil die Kosten für das Codieren der Daten in Licht dabei nicht berücksichtigt wurden. Sein Beispiel: Kostet eine elektronische Multiplikation 1 Pikojoule und das Codieren eines Vektorelements 1.000 Pikojoule, gewinnt der elektronische Ansatz bei jedem Vektor mit weniger als 1.000 Elementen. Den ungefähren Umschlagpunkt sieht er für verschiedene neuronale Netze irgendwo zwischen N gleich 1.000 und N gleich 10.000.
Der Artikel zieht außerdem das Amdahlsche Gesetz heran, das den Gewinn begrenzt, wenn sich nur ein Teil einer Arbeitslast beschleunigen lässt. Die Matrix-Vektor-Multiplikation ist nur ein Teil der Inferenz. Auf die Daten müssen weiterhin andere, nichtlineare Operationen angewendet werden, daher liegt der Anteil, den die Optik übernehmen kann, unter 100 Prozent und hängt vom jeweiligen Ansatz ab. Lumai, ein Unternehmen aus Oxford in England, setzt in einem Freiraum-Design auf einen programmierbaren räumlichen Lichtmodulator. Nach eigenen Angaben soll der Server der nächsten Generation, Iris Aura, das Prefill mit rund einem Zehntel der Energie einer GPU erledigen. Den früheren Server Iris Nova stellte Lumai im April 2026 zur Evaluierung bereit und bezeichnet ihn als Proof of Concept. Die nichtlinearen Funktionen übernimmt weiterhin die Elektronik.
Neurophos aus Austin in Texas verwendet Metamaterial-Modulatoren in einem Chip mit einem Array von 1.000 mal 1.000 auf einem Quadrat mit 5 mm Seitenlänge. CEO Patrick Bowen nennt als Ziel die 50-fache Geschwindigkeit und die 35-fache Energieeffizienz von Nvidias Blackwell B200. Die Roadmap des Unternehmens sieht für spätere Generationen die 250-fache Geschwindigkeit und rund die 90-fache Energieeffizienz vor. Einen Produktionsstandort wählt Neurophos derzeit noch aus, Racks sollen 2028 an Kunden ausgeliefert werden.
Andere Unternehmen gehen den Weg über den Chip. Q.ANT aus Stuttgart und Lightelligence aus Shanghai verzichten auf den dreidimensionalen Aufbau der Freiraumoptik zugunsten von Chips, die sich in Halbleiterfabriken fertigen lassen. Im Design von Q.ANT werden die Vektorelemente als aufeinanderfolgende Lichtpulse durch Wellenleiter und Interferometer geschickt. Das ist langsamer als Goodmans Methode, bei der alles gleichzeitig geschieht, mehrere Wellenlängen können den Geschwindigkeitsverlust aber teilweise ausgleichen. Q.ANT-CEO Michael Förtsch sieht in den Wandlern das Haupthindernis. Ohne einen schnellen, energiesparenden Wandler „sehen wir keine realistischen Chancen“, dass eine allgemeine optische Vektor-Matrix-Multiplikationsmaschine sinnvoll ist, sagt er. Laut einer Pressemitteilung von Q.ANT zeigte der Prozessor der zweiten Generation bei einer Evaluierung am Leibniz-Rechenzentrum eine bis zu 100x höhere Leistung als die erste Generation. Interne Benchmarks des Unternehmens deuten auf eine bis zu 30-mal höhere Energieeffizienz als bei herkömmlichen Prozessoren hin.
Manche Unternehmen wenden sich von der Matrixmultiplikation ab. LightSolver aus Israel löst Differentialgleichungen in einem laserartigen Resonator mit einem Verstärkungsmedium und einem programmierbaren Modulator. CEO Ruti Ben-Shlomi sagt, Differentialgleichungen ließen sich auf dem Gerät des Unternehmens deutlich schneller und energieeffizienter lösen. Das Team zeigte in einer Emulation, dass das Gerät solche Gleichungen je nach Workflow 40- bis 80.000-mal so schnell lösen kann wie eine GPU. Laut dem Artikel arbeitet das Unternehmen noch an expliziten Energie-Benchmarks. Optalysys aus Leeds in England platziert passive optische Komponenten im Netzwerkpfad, wo heute Switch-Karten Strom verbrauchen, um Ergebnisse zusammenzuführen. Gründer Nick New argumentiert, dieser Ansatz eigne sich für die Decode-Phase der Inferenz, die dadurch begrenzt ist, dass Daten in den Speicher und aus ihm heraus bewegt werden müssen.
Logan Wright von der Yale University ist weniger zuversichtlich, dass die Optik GPUs bald ablösen wird. Er erwartet eher, dass sich die Entwicklung von Algorithmen in eine Richtung bewegt, die GPUs begünstigt, weil Modellentwickler wollen, dass ihre Modelle darauf gut laufen. Er weist aber darauf hin, dass die Investitionen von Nvidia und TSMC in Co-Packaged-Silizium-Photonik, die auf Circuit Switching und Interconnects statt auf Rechenleistung zielen, später dennoch den Weg für mehr optische Verarbeitung ebnen könnten.
Warum es wichtig ist
Wer Inferenzkapazität plant, sollte Effizienzversprechen der Optik als unbewiesen betrachten. Wie der Artikel festhält, hängen die Energiegewinne von der Systemgröße, den Codierungskosten und davon ab, welchen Anteil der Arbeitslast die Optik tatsächlich übernehmen kann.
Originalquelle
Weitere Berichte
Wo wir es gesehen haben
IEEE Spectrum
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es