Das Material, aus dem ein Modell seine Muster zieht: Texte, Bilder, Tabellen, Klickspuren. Ihre Auswahl entscheidet über Können und Schlagseite des Ergebnisses — was fehlt, kann das Modell nicht, was verzerrt ist, verzerrt es mit. Um Herkunft und Rechte dieser Daten werden gerade die teuersten Streitigkeiten der Branche geführt.
Ein Beispiel
Ein Modell zur Bewerbervorauswahl wird auf zehn Jahren Einstellungsentscheidungen trainiert. Es lernt dabei exakt das, was zu tun war: die Muster in diesen Entscheidungen. Waren darunter systematische Verzerrungen — bestimmte Hochschulen bevorzugt, Lücken im Lebenslauf abgestraft, Teilzeit als Signal gewertet —, dann sind sie jetzt im Modell, und zwar konsistenter angewendet als je zuvor. Automatisierung macht eine Praxis nicht neutral, sie macht sie skalierbar.
Genauer betrachtet
Für große Modelle stammen sie überwiegend aus dem offenen Web, ergänzt um lizenzierte Sammlungen, Code und zunehmend erzeugte Daten. Zusammensetzung und Filterung bestimmen die Eigenschaften eines Modells stärker als die Architektur — und werden fast nie offengelegt.
Warum das zählt
Trainingsdaten sind die eigentliche Substanz eines Modells, und die drei Fragen dazu sind unbequem, aber kurz. Woher stammen sie und durften sie dafür genutzt werden? Wen bilden sie ab und wen nicht? Aus welchem Zeitraum stammen sie? Bei zugekauften Modellen ist die erste Frage meist unbeantwortbar — das ist ein Risiko, das man kennen und akzeptieren, aber nicht wegverhandeln kann. Bei eigenen Daten ist sie beantwortbar, und genau deshalb sollte man sie stellen, bevor trainiert wird und nicht danach.
Häufig missverstanden
Was ein Modell an Schieflagen mitbringt, stammt aus dieser Auswahl. Im Nachhinein lässt es sich abschwächen, aber nicht entfernen.