AI News
Alle Meldungen
Berichtet

OpenAI soll Kauf des Interpretability-Startups Goodfire für über 5 Mrd. Dollar geprüft haben

Laut The Information hat OpenAI eine Übernahme von Goodfire für mehr als 5 Mrd. Dollar erwogen. Goodfire wollte demnach unabhängig bleiben.

Wirtschaft und Finanzierung · · 1 Min. Lesezeit

Wie The Information berichtet, hat OpenAI erwogen, das Interpretability-Startup Goodfire für mehr als 5 Milliarden Dollar zu kaufen. Goodfire wollte laut demselben Bericht jedoch unabhängig bleiben, um seine Arbeit an mehrere KI-Labs verkaufen zu können.

Goodfire gehört zudem zu den externen Gruppen im Assessment-Programm von OpenAI. Nach Angaben von OpenAI haben Apollo, METR, Transluce und Goodfire inzwischen internen Zugang zu den Modellen und Systemen des Unternehmens. Goodfire beschreibt seine Rolle so: Interpretability-Forscher werden eingebettet, um Trainingsläufe zu überwachen, also ein Modell zu beobachten, während es trainiert wird.

Die Zugangsbedingungen stoßen allerdings auf Kritik. Kritiker bemängeln, die Vereinbarungen blieben hinter Sam Altmans Versprechen eines „Zugangs wie für Mitarbeiter“ zurück. Neel Nanda und Alex Mallen berichten, dass die Prüfer keinen Slack-Zugang erhalten, dass OpenAI auswählt, welche Mitarbeiter sie befragen, und dass sie weder auf die Modellgewichte zugreifen noch trainingsbasierte Elicitation durchführen können. Diese Lücken betreffen das gesamte Prüferprogramm, nicht nur Goodfire. Der ehemalige Mitarbeiter Mikita Balesni sagt, die Prüfer dürften Mitarbeiter nicht zitieren, auch nicht anonym, und manchen könnte untersagt sein, über rein intern genutzte Modelle zu publizieren. METR erklärt, sein eigener Auftrag schließe die von OpenAI offengelegten Misalignment-Vorfälle aus und sei enger gefasst, als METR vorgeschlagen hatte.

Was sich ändert

Art: Wirtschaft · Betrifft: Goodfire

Warum es wichtig ist

Werden Interpretability-Tools bei einem einzigen Lab gebündelt, könnten Käufer einen neutralen Anbieter für unabhängige Modellanalysen verlieren.

Originalquelle

Für diese Meldung haben wir noch keinen Link zur Originalquelle.

Wo wir es gesehen haben

1 Quelle

Latent Space

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es