Metis veröffentlicht Positionspapier zur Verbindung von symbolischem und neuronalem KI-Denken
Das Startup schlägt für KI-Systeme einen expliziten, prüfbaren Reasoning-Kern vor, der sich am Ansatz hinter DeepMinds AlphaGo orientiert und Halluzinationen verringern soll.
Metis, ein Startup, das neuartige KI-Architekturen entwickelt, hat ein Positionspapier mit dem Titel The Age of Reasoning veröffentlicht. Darin schlägt es vor, moderne KI-Systeme um einen expliziten Reasoning-Kern zu ergänzen. Dieser Kern soll dauerhaft festhalten, welche Behauptungen und Hypothesen über die Welt im Raum stehen. Jede Änderung am Beweisstatus einer Behauptung müsste begründet sein, entweder durch Belege oder durch eine explizite, verifizierte Berechnung, und anschließend von einem unabhängigen Bewertungssystem freigegeben werden. Das Papier bleibt allgemein und enthält kaum technische Details.
Der Reasoning-Kern zielt auf eine bestimmte Schwäche. Metis argumentiert, dass Modellausgaben nicht schon deshalb in den akzeptierten Bestand aufgenommen werden sollten, weil sie plausibel klingen. Im Wortlaut des Papiers müssen modellgenerierte Inhalte ein „Warrant Assessment“, also eine Begründungsprüfung, durchlaufen. Diese Hürde verringere laut den Autoren Halluzinationen. Beweisquellen würden direkt an die Aussagen geknüpft, die sie stützen, wodurch eine klare Herkunftskette entsteht. Den so entstehenden Denkprozess bezeichnet das Papier als explizit prüfbar.
Als Vorbild für die Architektur dient DeepMinds AlphaGo. Metis zufolge ist der Mechanismus, der AlphaGo zu einem erfolgreichen Reasoning-System machte, in modernen Systemen nur implizit vorhanden oder fehlt ganz. Das Unternehmen nennt zwei fehlende Bausteine. Der erste ist ein expliziter und dauerhafter epistemischer Zustand, also ein beständiges Verzeichnis von Überzeugungen, das das System über die Zeit hinweg pflegt. Der zweite ist ein Kriterium, nach dem sich Denkschritte auswählen lassen, die einem Ziel näherkommen. Dafür schlägt Metis vor, eine Reasoning-Policy und eine Wertfunktion mit realen Daten zu trainieren, damit das System Denkschritte wählen kann, die langfristige Unsicherheit verringern. Wie diese Wertfunktion aufgebaut oder bewertet werden soll, lässt das Papier weitgehend offen.
Das Papier liefert auch eine historische Einordnung. Metis schreibt, die Geschichte der KI lasse sich als zwei unvollständige Erfolge lesen und nicht als Wettstreit zwischen symbolischen und neuronalen Methoden. Klassische Systeme machten den Denkprozess explizit, waren aber auf von Hand bereitgestellte Repräsentationen, Operatoren, Heuristiken und Wissen angewiesen. Heutige große Sprachmodelle lernen umfassende semantische Operationen und enormes implizites Wissen, lassen aber die Organisation und Bewertung des Denkens implizit. Der Vorschlag ist ein Versuch, beides zu vereinen.
Dem Ansatz des Papiers steht ein Einwand gegenüber. Menschen denken nicht auf Grundlage eines makellosen Faktenbestands. Ihr Denken ist ein unordentliches Gemisch aus Erinnerung, Intuition und Regeln. Der Kommentar von Import AI argumentiert, das beschriebene System würde ganz anders denken als ein Mensch. Ein solches System könnte, so die Vermutung, mehr über die Unterschiede zwischen menschlicher und maschineller Intelligenz verraten.
Warum es wichtig ist
Lässt sich KI-Reasoning mit klarer Herkunft prüfbar machen, könnte das Bedenken an der Zuverlässigkeit von Unternehmens-KI bei regulierten oder folgenreichen Entscheidungen entgegenwirken. Das Papier ist konzeptionell, der Ansatz ist also noch nicht erprobt.
Originalquelle
Für diese Meldung haben wir noch keinen Link zur Originalquelle.
Wo wir es gesehen haben
Import AI (Jack Clark)
KI hat diese Zusammenfassung aus den genannten Quellen geschrieben und ins Deutsche übersetzt. Niemand hat sie vor der Veröffentlichung einzeln geprüft. Bitte prüfen Sie die Originalquelle, bevor Sie sich darauf verlassen. So funktioniert es