Warum diese Entscheidung? Bei tiefen Netzen gibt es darauf selten eine vollständige Antwort — aber es gibt brauchbare Näherungen: welche Eingaben ausschlaggebend waren, wie sicher das Modell war, welche Regeln griffen. Wo Entscheidungen Menschen betreffen, ist Erklärbarkeit Rechtspflicht und Fairnessfrage zugleich. Manchmal ist das einfachere, erklärbare Modell die verantwortlichere Wahl.
Ein Beispiel
Ein Kreditantrag wird abgelehnt. Die Auskunft „das Modell hat auf Einkommen und Beschäftigungsdauer geachtet“ ist keine Begründung — sie nennt Merkmale, nicht die Entscheidungsregel. Eine Begründung wäre: Bei diesem Einkommen und dieser Beschäftigungsdauer hätte der Antrag ab einem um 300 Euro höheren Nettoeinkommen positiv entschieden. Diese Aussage ist prüfbar, anfechtbar und für den Betroffenen brauchbar. Die erste ist es nicht.
Genauer betrachtet
Die Verfahren reichen von Merkmalsgewichtung bis zu Gegenbeispielen: Was hätte anders sein müssen, damit die Entscheidung kippt? Bei großen Sprachmodellen ist echte Erklärung Forschungsgegenstand; im Betrieb behilft man sich mit Quellenangaben und protokollierten Zwischenschritten.
Warum das zählt
Für die Praxis lohnt es, zwei Dinge auseinanderzuhalten. Nachvollziehbarkeit des Vorgangs — was ist passiert, in welcher Reihenfolge, auf welcher Datengrundlage — ist erreichbar und eine Frage guter Protokollierung. Erklärbarkeit der Entscheidung — warum dieses Ergebnis und kein anderes — ist bei tiefen Modellen prinzipiell schwierig, und alle gängigen Verfahren liefern Näherungen, keine Wahrheit. Wenn eine Aufsicht Begründungen verlangt, ist deshalb manchmal die ehrliche Antwort, für diesen Zweck ein einfacheres, nachlesbares Verfahren zu verwenden.
Häufig missverstanden
Eine vom Modell gelieferte Begründung ist selbst eine Ausgabe. Sie beschreibt, was plausibel klingt, nicht notwendigerweise, was zur Antwort geführt hat.