De-Skilling: Was wir verlernen, wenn KI immer antwortet
Eine Studie in Nature Human Behaviour zeigt: Je länger Menschen mit KI interagieren, desto stärker werden ihre kognitiven Verzerrungen, und sie merken es nicht. Was das für Forschung, Medizin und jeden bedeutet, der heute mit KI arbeitet.
Irgendwann vor etwa eineinhalb Jahren habe ich gemerkt, dass ich zu viel delegiert hatte.
Ich war an einem Punkt angelangt, an dem ich KI für praktisch jeden Schritt meiner Arbeit nutzte: Literaturrecherche, Zusammenfassungen, erste Entwürfe, Codeabschnitte, Antwortformulierungen auf schwierige Mails. Das ging schnell. Es funktionierte. Und dann, an einem Abend, wollte ich einen Abschnitt selbst schreiben und bemerkte, dass es sich schwerer anfühlte als früher.
Das ist nicht die Geschichte, die man über KI normalerweise liest. Aber sie ist ehrlicher.
Was die Forschung zeigt
Eine aktuelle Studie in Nature Human Behaviour hat untersucht, was mit kognitiven GlossarBias (Verzerrung)systematische Schieflage in Daten/Ausgaben.Zum Eintrag ↗ passiert, wenn Menschen über längere Zeit mit KI interagieren. Das Ergebnis ist unbequem: Die Verzerrungen nehmen zu. Und die Betroffenen sind sich dessen nicht bewusst.
Das ist das eigentlich Beunruhigende: nicht, dass die Bias-Rate steigt, sondern dass sie blind geschieht. Automation Bias, also das Übergewichten von KI-Outputs gegenüber eigener Einschätzung, wird nicht durch Erfahrung korrigiert. Er wird durch Gewohnheit verstärkt.
Ironischerweise: Je mehr Erfahrung jemand mit einem System hat, desto mehr vertraut er ihm, unabhängig davon, ob das Vertrauen verdient ist.
Was das in der Praxis bedeutet
In der Wissenschaft habe ich das selbst beobachtet. Doktoranden, die ich begleite, nutzen KI für Aufgaben, die früher Teil des Lernprozesses waren: Formulieren, Strukturieren, Einordnen. Das Resultat kommt schneller. Es klingt oft besser. Aber wenn man fragt, warum sie einen Abschnitt so interpretiert haben, kommt manchmal keine Antwort. Weil nicht sie interpretiert haben, sondern das Modell.
In der Medizin ist das gleiche Muster erkennbar, mit höherem Einsatz. Ärzte, die KI-gestützte Diagnosesysteme nutzen, fangen an, ihre eigene klinische Einschätzung an der Maschine zu kalibrieren. Wenn das Modell sagt, es ist wahrscheinlich Jetlag (wie es ein frühes ChatGPT-System bei einem klassischen Lungenarterienembolie-Fall tat), braucht es Urteilsvermögen, um dem zu widersprechen. Dieses Urteilsvermögen entsteht durch Jahre klinischer Erfahrung. Wer die nicht hat, kann es nicht einsetzen.
Das ist das Paradox: KI ist dort am gefährlichsten, wo man am wenigsten ohne sie auskommt.
Die Skill-Kurve, neu gezeichnet
Früher sah die Karriere in Forschung und Medizin so aus: Viele Jahre Grundlagenarbeit, viele Fehler, viel Wiederholung. Und dann, irgendwann, die Erfahrung, die Urteilsvermögen entstehen lässt. Die Einstiegsaufgaben waren mühsam, aber sie hatten eine Funktion: Sie haben trainiert.
KI automatisiert genau diese Einstiegsaufgaben zuerst. Literaturrecherche, Protokollentwurf, Datenbereinigung, Erstformulierungen. Das ist effizient. Und es entzieht dem Nachwuchs möglicherweise den Übungsraum, der ihn irgendwann qualifiziert, die KI zu beurteilen.
Vereinfacht gesagt: Wer nie gelernt hat, wie ein guter statistischer Analyseplan aussieht, kann nicht beurteilen, ob der Analyseplan, den ChatGPT generiert hat, gut ist. Das Urteil setzt die Kompetenz voraus, die das Training ergibt. KI liefert das Ergebnis, aber nicht das Training.
Zwei Typen von Verlusten
Es gibt einen Unterschied zwischen kurzfristigem Komfort und langfristiger Kompetenz.
Der kurzfristige Komfort ist real: KI erledigt in Minuten, was früher Stunden dauerte. Die Effizienzgewinne sind messbar und bedeutend. Es wäre falsch, das kleinzureden.
Aber es gibt zwei Arten von Kompetenz, die dabei verloren gehen können:
Methodische Kompetenz: Das Handwerk. Wissen, wie man eine saubere Literaturrecherche macht. Wie man einen Datensatz exploriert. Wie man einen Absatz strukturiert, der wirklich etwas sagt. Diese Kompetenz atrophiert, wenn sie nicht genutzt wird, auch bei Experten, nicht nur bei Anfängern.
Meta-Kompetenz: Die Fähigkeit zu beurteilen, ob das Ergebnis gut ist. Das ist das Kritische, und es ist das, das KI am wenigsten ersetzen kann, aber am meisten voraussetzt. Man muss etwas können, um zu beurteilen, ob die Maschine es gut gemacht hat.
Was das nicht bedeutet
Es wäre falsch, daraus zu schließen, dass KI-Nutzung selbst das Problem ist. Das ist nicht die Botschaft.
Die Botschaft ist: KI als Werkzeug nutzen, das auf Kompetenz aufbaut, nicht als Ersatz dafür. Den Unterschied zwischen „ich verstehe, was das Modell getan hat" und „ich habe das Ergebnis übernommen" zu kennen und zu benennen. Und zu erkennen, dass Effizienz und Kompetenz nur dann zusammenkommen, wenn man beides kultiviert.
Ich nutze KI heute täglich. Für Recherche, Formulierungshilfen, Codeassistenz, Ideation. Aber ich habe bewusst Aufgaben zurückgeholt, die ich früher delegiert hatte. Nicht weil das effizienter ist. Sondern weil mein Urteil von der Praxis lebt.
Die KI kann mir nicht denken. Sie kann mir zeigen, was jemand anderes gedacht hätte. Den Unterschied zu kennen, ist keine Kleinigkeit.
Was jetzt zu tun ist
Kurzfristig: Vor dem Delegieren lernen. KI ist kein Lehrmeister. Sie ist ein Werkzeug für Kompetente. Wer die Grundlagen noch nicht hat, sollte sie zunächst anders erwerben.
Mittelfristig: Outputs verifizieren und verstehen. Nicht nur prüfen, ob das Ergebnis plausibel aussieht, sondern ob man es erklären und verteidigen kann. Das ist eine sehr andere Frage.
Längerfristig: Institutionen müssen das ernst nehmen. Universitäten, Kliniken, Forschungseinrichtungen, die KI in ihre Workflows integrieren, ohne zu fragen, wie das Training der nächsten Generation aussieht, riskieren einen stillen Kompetenz-Erosionsprozess, der sich erst in zehn Jahren zeigt.
Wer die Frage jetzt stellt, kann ihn noch abwenden.
Oscar ist Postdoktorand am Else Kröner Fresenius Zentrum für Digitale Gesundheit (TU Dresden) und Mitgründer von Denkmal.