57 · Training & Ausrichtung
Constitutional AI
Ausrichtung an festgelegten Prinzipien statt nur an Beispielen.
Statt jedes erwünschte Verhalten aus Einzelbewertungen zu lernen, bekommt das Modell Prinzipien — eine Verfassung — und kritisiert und verbessert seine Antworten selbst daran entlang. Das macht Ausrichtung nachlesbar: Man kann die Prinzipien diskutieren statt tausend Einzelurteile. Anthropic hat den Ansatz für Claude entwickelt; er ersetzt menschliches Feedback nicht, macht es aber skalierbar.
Ein Beispiel
Statt Menschen jede Antwort bewerten zu lassen, bekommt das Modell einen geschriebenen Satz Grundsätze — etwa: keine Anleitung zu Schaden, keine Herabwürdigung, bei Unsicherheit Unsicherheit benennen — und kritisiert damit seine eigenen Antworten, bevor daraus trainiert wird. Der Vorteil ist Nachlesbarkeit: Die Regeln stehen als Text da und lassen sich diskutieren, statt implizit in Millionen von Einzelurteilen zu stecken.
Genauer betrachtet
Statt für jeden Fall menschliches Feedback einzuholen, bekommt das Modell einen Satz schriftlicher Prinzipien und kritisiert und überarbeitet seine eigenen Antworten daran. Das skaliert besser und macht die zugrunde liegenden Regeln lesbar.
Warum das zählt
Für Unternehmen ist weniger das Verfahren interessant als das Prinzip: Explizite, geschriebene Regeln sind überprüfbar, implizite Präferenzen nicht. Das lässt sich auf die eigene Nutzung übertragen, ohne selbst zu trainieren — indem man die Hausregeln für KI-Nutzung tatsächlich aufschreibt, statt sie im Gefühl der Teams zu belassen. Wer nicht formulieren kann, was ein System nicht tun soll, kann es auch nicht prüfen. Und die zweite Ebene bleibt: Die Grundsätze eines zugekauften Modells hat jemand anderes geschrieben, nach seinen Maßstäben.
Häufig missverstanden
Geschriebene Prinzipien sind nicht neutral. Wer sie formuliert, trifft Wertentscheidungen. Der Vorteil des Verfahrens ist, dass diese Entscheidungen wenigstens nachlesbar sind.
Nachbarschaft
Verwandte Begriffe
Newsletter
Der Brief.
Ein Artikel pro Woche, dazu was uns beim Bauen aufgefallen ist. Kein Wochenrückblick, keine Werbung, keine Weitergabe der Adresse. Abmelden mit einem Klick in jeder Ausgabe.