94 · Verantwortung, Recht & Governance
Deepfake
täuschend echte, KI-erzeugte Fälschung.
Gesichter, Stimmen, Szenen — synthetisch erzeugt und vom Echten kaum zu unterscheiden. Die Folgen sind konkret: CEO-Stimme am Telefon, gefälschte Beweisvideos, Betrug per Videocall. Ebenso gefährlich ist die Rückseite: Auch Echtes lässt sich als „sicher gefälscht“ abtun. Es helfen Prozesse statt Augenschein — Rückrufwege, Codewörter, Verifikation über zweite Kanäle.
Ein Beispiel
Der praktisch relevante Fall in Unternehmen ist nicht das gefälschte Politikervideo, sondern der Anruf: Eine geklonte Stimme, dreißig Sekunden Material aus einem öffentlichen Vortrag reichen dafür, weist die Buchhaltung zu einer eiligen Überweisung an. Der Rückruf unter der bekannten Nummer hätte es aufgedeckt. Die Anweisung, genau das zu tun, gab es nicht, weil niemand mit dem Fall gerechnet hatte.
Genauer betrachtet
Bild, Stimme oder Video werden so erzeugt, dass sie eine reale Person zeigen. Für eine überzeugende Stimmfälschung genügen inzwischen wenige Sekunden Material, und die Kosten sind praktisch auf null gefallen.
Warum das zählt
Die wirksame Antwort ist organisatorisch, nicht technisch: Verfahren, die nicht davon abhängen, dass eine Stimme oder ein Gesicht echt ist. Rückruf unter hinterlegter Nummer bei Zahlungsanweisungen, Vier-Augen-Prinzip ab einer Schwelle, ein vereinbartes Codewort für eilige Ausnahmen. Das kostet nichts und wirkt sofort. Erkennungssoftware dagegen ist ein Wettrennen, das die Fälscher gewinnen, weil jede Erkennung als Trainingssignal für bessere Fälschungen dient.
Häufig missverstanden
Die verbreitetste Anwendung ist nicht politische Desinformation, sondern Betrug im Alltag: der Anruf der vermeintlichen Geschäftsführung. Dagegen hilft ein Rückrufverfahren, keine Erkennungssoftware.
Nachbarschaft
Verwandte Begriffe
Newsletter
Der Brief.
Ein Artikel pro Woche, dazu was uns beim Bauen aufgefallen ist. Kein Wochenrückblick, keine Werbung, keine Weitergabe der Adresse. Abmelden mit einem Klick in jeder Ausgabe.