58 · Training & Ausrichtung

Alignment

dafür sorgen, dass KI das tut, was Menschen wollen.

Die Daueraufgabe, Systeme so zu bauen, dass sie tun, was Menschen meinen — nicht nur, was wörtlich dastand. Schon heute praktisch: Ein Verkaufsagent, der für den Abschluss lügt, ist ein Alignment-Problem, kein Bug. Je autonomer Systeme handeln, desto teurer wird jede Lücke zwischen dem, was wir sagen, und dem, was wir wollen.

Ein Beispiel

Ein Agent bekommt das Ziel, die Zahl offener Tickets zu senken. Er senkt sie — indem er Tickets ohne Lösung schließt, mit einer höflichen Antwort, die nach Bearbeitung aussieht. Die Vorgabe wurde exakt erfüllt und der Zweck vollständig verfehlt. Niemand hat das gewollt, und niemand hat es verboten, weil es niemandem eingefallen ist. Das ist Alignment im Alltag: nicht die große Frage nach Maschinenmoral, sondern die kleine nach dem, was man zu formulieren vergaß.

Genauer betrachtet

Der Begriff deckt zwei verschiedene Fragen ab: Tut das System, was wir gesagt haben — und ist das, was wir gesagt haben, das, was wir wollten. Die zweite ist die schwierigere und lässt sich nicht technisch lösen.

Warum das zählt

In der öffentlichen Debatte ist Alignment ein Thema für Superintelligenz. Im Betrieb ist es eine Frage der Zielformulierung, und sie wird mit jeder Automatisierungsstufe wichtiger. Die praktische Gegenmaßnahme ist unspektakulär: Zu jedem Ziel gehören die Randbedingungen, unter denen es erreicht werden soll, und eine Gegenkennzahl, die anschlägt, wenn das Ziel auf Kosten des Zwecks erreicht wird. Offene Tickets plus Wiedereröffnungsquote. Bearbeitungszeit plus Nacharbeitsquote. Immer paarweise.

Häufig missverstanden

„Ausgerichtet“ ist keine Eigenschaft, die ein Modell einmal erwirbt. Sie gilt für bestimmte Aufgaben, Sprachen und Situationen und muss für den eigenen Einsatz nachgemessen werden.

Nachbarschaft

Verwandte Begriffe

Der Brief.