Verantwortung, Recht & Governance
EU AI Act
Das erste große KI-Gesetz: Anwendungen werden nach Risiko sortiert — Verbotenes (etwa Social Scoring), Hochrisiko mit Pflichtenkatalog (Bewerbung, Kredit, Medizin), Transparenzpflichten für den Rest, eigene Regeln für große Modelle. Gestaffelt gültig seit 2025/2026. Für die meisten Firmen heißt das: wissen, in welcher Klasse die eigenen Anwendungen spielen, und es belegen können.
Ein Beispiel
Die Verordnung ordnet nach Risiko, nicht nach Technik. Ein Sprachmodell, das Marketingtexte entwirft, ist praktisch unreguliert. Dasselbe Modell, das Bewerbungen vorsortiert, fällt in den Hochrisikobereich — mit Pflichten zu Risikomanagement, Datenqualität, Protokollierung, menschlicher Aufsicht und Transparenz. Der Unterschied liegt nicht im System, sondern in seiner Verwendung. Deshalb muss die Einstufung pro Anwendungsfall erfolgen, nicht pro Werkzeug.
Genauer betrachtet
Die Verordnung staffelt nach Risiko: verbotene Praktiken, Hochrisiko-Anwendungen mit Pflichten zu Daten, Dokumentation, Aufsicht und Protokollen, Transparenzpflichten für Systeme mit Nutzerkontakt, dazu eigene Regeln für Basismodelle. Die Pflichten greifen gestaffelt seit 2025.
Warum das zählt
Für die meisten Unternehmen sind zwei Punkte wichtiger als die Details. Erstens: Als Betreiber haben Sie eigene Pflichten, auch wenn Sie das System nur einkaufen — insbesondere zur menschlichen Aufsicht, zum bestimmungsgemäßen Betrieb und zur KI-Kompetenz der Beschäftigten. Die lassen sich nicht an den Anbieter durchreichen. Zweitens: Der praktische Einstieg ist ein Verzeichnis der eingesetzten Systeme mit ihrer Verwendung. Ohne das ist keine Einstufung möglich, und die meisten Häuser haben es nicht. Dies ist eine Einordnung, keine Rechtsberatung.
Häufig missverstanden
Entscheidend ist nicht, ob KI eingesetzt wird, sondern wofür. Dieselbe Technik kann im Marketing unkritisch und in der Personalauswahl hochriskant sein.
Wo dieser Begriff im Magazin arbeitet.
1 Artikel benutzt den Begriff oder verhandeln sein Prinzip.