AI News
Alle Meldungen
Offiziell

Heretic 2.0 baut sein Werkzeug zur Modellmodifikation neu auf: mit Arbitrary-Rank Ablation und Plugins

Das Open-Source-Werkzeug Heretic 2.0 ersetzt die Rank-1-Abliteration durch ein Optimierungsverfahren, führt ein Plugin-System ein und ist nicht mehr mit 1.x-Konfigurationen kompatibel.

Open Source · · 3 Min. Lesezeit

Heretic 2.0 tauscht das Verfahren aus, das im Zentrum des Open-Source-Werkzeugs zur Modellmodifikation steht. Standardmäßig kommt nun Arbitrary-Rank Ablation (ARA) als Modifier zum Einsatz, und die neue Version ist nicht mehr mit Konfigurationsdateien aus 1.x kompatibel. Heretic soll Verweigerungen aus Sprachmodellen entfernen, ohne sie zu trainieren; das Projekt bezeichnet den Ansatz als trainingsfrei. Die Änderung ist relevant, weil sie bestimmt, wie der Eingriff berechnet wird, und nicht nur, wie er konfiguriert wird.

Heretic 1.x setzte auf direktionale Abliteration, die das README als klassische Methode zur Unterdrückung von Verweigerungen bezeichnet. Dabei wird eine einzelne Richtung aus den internen Repräsentationen des Modells entfernt, was das Release mit Rank-1 meint. ARA erlaubt dagegen Eingriffe beliebigen Rangs, sodass sich die Änderung an jeder Gewichtsmatrix über mehr als eine Richtung erstrecken kann. Eine Reddit-Diskussion zum Release beschreibt das Ziel so: Die Aktivierungen bei schädlichen Prompts sollen jenen bei harmlosen Prompts ähneln, während harmlose Prompts möglichst wenig gestört werden. Die Zusammenfassung des Releases beschreibt die Anpassung pro Matrix als L-BFGS-Optimierung über Repräsentationen im Residualraum. Laut README kombiniert Heretic den Modifier mit einem TPE-basierten Hyperparameter-Optimierer, der auf Optuna aufsetzt und nach Parametern sucht, die die konfigurierten Scores minimieren oder maximieren.

Diese Scores liefern Scorer-Plugins, die zweite große Neuerung. Standardmäßig bewertet Heretic Modelle nach der Verweigerungsrate, ermittelt per Keyword-Abgleich, und nach der KL-Divergenz, die misst, wie weit sich das modifizierte Modell vom Original entfernt. Mehrere Scorer können gleichzeitig laufen und werden gemeinsam optimiert, der Optimierer wägt also ein Ziel gegen ein anderes ab. Die Reddit-Diskussion nennt weitere Beispiele, darunter Benchmark-Scoring und einen auf ModernBERT basierenden Klassifikator für Verweigerungen und Emotionen. Ein Plugin lässt sich entweder über einen vollqualifizierten Importpfad oder über einen Dateipfad mit anschließendem Klassennamen laden, sodass Nutzer Scorer hinzufügen können, ohne das Paket zu verändern. Das Gegenstück bilden Modifier-Plugins, die Steering-Methoden implementieren. Das README weist allerdings darauf hin, dass vorerst nur ein Modifier pro Durchlauf aktiv sein kann.

Der Kompatibilitätsbruch ist konkret. Der Migrationsleitfaden listet Forschungseinstellungen auf, die nicht mehr erkannt werden, darunter Optionen für Residual-Plots. Die Einstellungen kl_divergence_scale und kl_divergence_target entfallen, weil das KL-Balancing gestrichen wurde. Abliteration-Einstellungen wandern in einen Abschnitt [modifier.Abliteration], refusal_markers heißt nun keyword_markers, und aus den guten Evaluierungs-Prompts werden die KLDivergence-Prompts. Da 2.x standardmäßig ARA verwendet, muss, wer das alte Verhalten möchte, die Option modifiers explizit setzen. Laut Leitfaden müssen nur Einstellungen angepasst werden, die in einer alten Datei vorhanden sind.

Die Verarbeitung von Qwen3-4B-Instruct-2507 auf einer RTX 3090 dauert mit der Standardkonfiguration etwa 30 bis 40 Minuten. Laut Projekt misst das Werkzeug beim Start die Leistung des Systems, um eine Batch-Größe zu wählen. Zudem seien Tausende Modelle mit Heretic veröffentlicht worden, und unabhängige Benchmarks auf MMLU und GSM8K hätten ergeben, dass sie im Vergleich mit Modellen konkurrierender Abliteration-Werkzeuge gut abschneiden. Einen direkten Vergleich zwischen ARA und dem bisherigen Abliteration-Standard liefert das README nicht. Reproduzierbarkeits-Manifeste sind eine eigene Funktion; laut README ist jedes dieser Manifeste nur rund 9 Kilobyte groß.

Die Reaktionen im Reddit-Thread fielen überwiegend begeistert aus, besonders interessiert zeigten sich Nutzer daran, mit dem Plugin-System und ARA das zu reduzieren, was sie „Slop“ nennen. Ein separater Thread warf Fragen zur Urheberschaft eines anderen Werkzeugs auf: reaper-abliteration, das eine forensische Analyse dem Entwickler HauhauCS zuordnet. Die Analyse argumentiert, das Closed-Source-Paket sei ein Fork von Heretic, der unter die Lizenz PolyForm Noncommercial gestellt und möglicherweise mit einem LLM umgeschrieben wurde. Sie zitiert eine Aussage von Heretic-Autor Philipp Emanuel Weidmann, wonach das Paket von Heretic plagiiert wurde. Außerdem wirft die Analyse Verstöße gegen die von Heretic verwendete Lizenz AGPL-3.0 vor.

Was sich ändert

Art: Inkompatible Änderung · Betrifft: Heretic 2.0, Arbitrary-Rank Ablation (ARA), 1.x configuration files

Warum es wichtig ist

Teams, die mit der Bearbeitung von Open-Weight-Modellen experimentieren, erhalten ein flexibleres Werkzeug, müssen aber ihre Konfigurationen migrieren und sollten die dadurch eingeführten Verhaltensänderungen der Modelle prüfen.

Was Sie tun können

Lesen Sie den Migrationsleitfaden, bevor Sie bestehende Konfigurationen aus Heretic 1.x migrieren.

Originalquelle

Weitere Berichte

Wo wir es gesehen haben

1 Quelle

Latent Space

KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es