Leitplanken sind die Grenzen, innerhalb derer ein System handeln darf: Was es sehen darf, was es tun darf, wo es abbrechen und jemanden fragen muss. Entscheidend ist nicht, dass es sie gibt, sondern wo sie sitzen. Eine Regel im System-Prompt ist eine Anweisung an ein Modell, das ihr in aller Regel folgt und in seltenen Fällen nicht — bei ungewöhnlichen Eingaben, in langen Gesprächen, unter gezielten Versuchen. Eine Regel im umgebenden Code ist eine Grenze, die nicht verhandelbar ist, weil das Modell sie gar nicht sieht. Für alles, dessen Verletzung Geld, Daten oder Reputation kostet, ist nur die zweite Bauform eine Kontrolle. Die erste ist eine Bitte, die meistens erhört wird.
Ein Beispiel
Ein Agent darf Rechnungen freigeben. Die Leitplanken: bis 500 Euro selbstständig, darüber Freigabe durch einen Menschen; nur an Lieferanten aus der hinterlegten Liste; nie zweimal dieselbe Rechnungsnummer; bei fehlender Bestellreferenz Abbruch mit Meldung. Entscheidend ist, wo diese Regeln stehen. Als Satz im System-Prompt sind sie eine Bitte. Als Prüfung im Code vor dem Absenden sind sie eine Grenze.
Genauer betrachtet
Leitplanken sitzen an drei Stellen: vor dem Modell in der Eingabeprüfung, im Modell über Systemanweisung und Ausrichtung, nach dem Modell in Ausgabeprüfung, Formatzwang und Freigaben. Verlässlich ist vor allem die dritte, weil sie nicht vom Modell selbst abhängt.
Warum das zählt
Der Unterschied zwischen Bitte und Grenze ist der ganze Inhalt des Begriffs — und die Stelle, an der Prüfungen scheitern. Ein Modell, das angewiesen wurde, keine Zahlungen über 500 Euro auszulösen, wird das in aller Regel befolgen und in seltenen Fällen nicht. Für ein Zahlungssystem ist „in aller Regel“ keine Kontrolle. Die belastbare Bauweise legt jede Grenze, deren Verletzung teuer oder rechtlich relevant ist, in gewöhnlichen Code außerhalb des Modells. Das Modell darf dann vorschlagen; passieren lässt es die Prüfung.
Häufig missverstanden
Eine Leitplanke im Prompt ist eine Bitte. Wer eine Grenze braucht, die hält, muss sie außerhalb des Modells ziehen: in Berechtigungen, Freigaben und dem, was das System technisch überhaupt tun kann.