AI News
Alle Meldungen
Berichtet

Anthropic: Fable 5.2 und Mythos 5.2 beim Training in Bereichen der KI-Forschung gezielt begrenzt

Laut einem auf Reddit geteilten Dokumentauszug wurden Fable 5.2 und Mythos 5.2 beim Training in Bereichen der KI-Forschung und -Entwicklung bewusst in ihren Fähigkeiten begrenzt.

Modelle · · 1 Min. Lesezeit

Ein auf Reddit geteilter Screenshot eines Anthropic-Dokuments besagt, dass Claude Fable 5.2 und Claude Mythos 5.2 nicht nur durch nachgelagerte Schutzmechanismen abgesichert, sondern beim Training auch bewusst in ihren Fähigkeiten begrenzt wurden, und zwar in Bereichen, die KI-Forschung und -Entwicklung beschleunigen könnten. Der Abschnitt steht unter der Überschrift „AI research and development“. Genannt werden zwei Bereiche: die Optimierung von Accelerator-Kernels und die Verbesserung von LLM-Architekturen. Der Unterschied ist wesentlich: Ein nachgelagerter Schutzmechanismus filtert oder beschränkt, was ein fertiges Modell tun darf, eine Begrenzung im Training verändert dagegen, was das Modell überhaupt lernt. Wie die Begrenzung umgesetzt wurde und wie stark sie die Fähigkeiten einschränkt, geht aus dem Thread nicht hervor.

Kommentatoren im Thread skizzierten mögliche Folgen. Einer wies darauf hin, dass Kernel-Optimierung auch die Optimierung von Inferenz-Kernels für kleine lokale Modelle auf älterer Hardware sowie den Bau eigener Inferenz-Engines umfasst. Ein anderer sah in der Einschränkung eine wettbewerbswidrige Beschneidung von Fähigkeiten, ein dritter vermutete, dass rein intern genutzte Versionen womöglich nicht denselben Begrenzungen unterliegen. Das sind die Einschätzungen der Kommentatoren, keine Aussagen des Dokuments.

Eine weitere Frage betraf die Tests. Ein Kommentator wollte wissen, ob Anthropic nur enge automatisierte Benchmarks geprüft habe oder auch den Transfer zwischen Domänen, die Qualität des Schlussfolgerns und die Wahl der Tools, und schrieb: „Es ist egal, ob man die Tool-Nutzung unangetastet lässt, wenn dem Modell dahinter das Wissen, wie man sie am besten einsetzt, wegoperiert wurde.“ Die Sorge: Eine Beschneidung in einer Domäne könnte sich anderswo als Rückschritt zeigen, wo enge Tests ihn nicht erfassen.

Was sich ändert

Art: Inkompatible Änderung · Betrifft: Claude Fable 5.2, Claude Mythos 5.2

Warum es wichtig ist

Wenn Begrenzungen im Training die Fähigkeiten bei Kernel- oder Systemarbeit schmälern, könnten Teams, die Claude für Performance-Engineering einsetzen, ungleichmäßige Ergebnisse erleben, die enge Benchmarks nicht sichtbar machen.

Was Sie tun können

Testen Sie Claude-Modelle an Ihren eigenen Performance-Engineering-Aufgaben, bevor Sie davon ausgehen, dass sie früheren Versionen ebenbürtig sind.

Originalquelle

Für diese Meldung haben wir noch keinen Link zur Originalquelle.

Wo wir es gesehen haben

1 Quelle

Latent Space

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es