Blog
Überzeugend, aber nicht neutral: Verzerrungen in KI und der Ansatz der AI Literacy
In einem Training wird über Automation Bias gesprochen, Bild KI-generiert
KI-Systeme antworten schnell, wirken kompetent und klingen überzeugend. Genau das macht sie im Alltag einflussreich und zugleich riskant. Dieser Beitrag zeigt, dass KI-Ausgaben nicht neutral sind, warum sie vor allem durch den unkritischen Umgang der Nutzenden zum Problem werden und weshalb AI Literacy für die Erwachsenenbildung ein sinnvoller Ansatzpunkt ist.
Der Griff zum Smartphone
Egal ob Rückenschmerzen, hartnäckige Kopfschmerzen oder die ersten Anzeichen einer Erkältung, für viele ist der Reflex längst nicht mehr der Anruf in der Arztpraxis, sondern die Frage an einen KI-Chatbot. Laut einer Befragung der Pronova BKK (Koch & Neuberg-Vural, 2026) holen sich 46 Prozent der Deutschen medizinischen Rat bei der KI, bevor sie eine Praxis aufsuchen. Wer beide Wege parallel nutzt, erhält allerdings oft unterschiedliche Antworten: 43 Prozent berichten von abweichenden Empfehlungen, und von diesen folgt rund ein Viertel der KI. Dass KI so selbstverständlich genutzt wird, zeigt sich auch über Gesundheitsfragen hinaus. Der Anteil der Menschen in Deutschland, die ChatGPT schon einmal ausprobiert haben, stieg laut YouGov (2025) von 9 Prozent (Januar 2023) auf 43 Prozent (April 2025). Während Jüngere früh zu den Ausprobierenden gehörten, ziehen ältere Gruppen mittlerweile kräftig nach. Bei den 45- bis 54-Jährigen wuchs der Anteil von 6 auf 43 Prozent, während er sich bei den über 55-Jährigen von 3 auf 29 Prozent nahezu verzehnfachte.
KI ist nicht neutral
Je selbstverständlicher wir ein Werkzeug nutzen, desto seltener fragen wir, wie es funktioniert. Bei KI ist das riskant, denn ihre Ausgaben sind nicht so objektiv, wie sie wirken. Überzeugend formuliert heißt nicht zugleich korrekt oder unvoreingenommen. Sprachmodelle werden mit menschengemachten Daten trainiert und geben deshalb menschliche Muster wieder. Mal stecken gesellschaftliche Vorurteile in den Trainingsdaten und benachteiligen bestimmte Gruppen, mal ähneln die Antwortmuster menschlichen Denkfehlern (Echterhoff et al., 2024). Eine flüssige, sicher klingende Ausgabe ist keine Garantie für ihre Richtigkeit.
Das eigentliche Risiko: Automation Bias
Zum eigentlichen Problem werden diese Bias (Verzerrungen) aber erst durch den Menschen. Entscheidend ist der „Automation Bias“, also die menschliche Neigung, KI-generierte Ausgaben direkt und ohne kritische Distanz zu übernehmen. Peter Gordon Rötzel (2024) erklärt, dass der Wunsch nach schnellen, sauberen Ausgaben und die Annahme technischer Unfehlbarkeit dazu führt, dass wir der KI ein zu hohes Vertrauen entgegenbringen. So werden die Bias unbewusst übernommen und der Bias des KI-Systems und der des Menschen verstärken sich gegenseitig. Ob eine KI hilft oder in die Irre führt, hängt damit weniger am KI-System als an der Frage, ob der Mensch die generierte Ausgabe hinterfragt.
Wie greifbar das ist, zeigt ein Praxisbericht von Joshua Wilhelm (2025), der angehende Erwachsenenbildner*innen unterrichtet. Teilnehmende mit wenig KI-Erfahrung waren von den ersten Ausgaben oft so beeindruckt, dass sie diese kaum prüften. Automation Bias ist damit kein Laborphänomen, sondern im Seminarraum direkt zu beobachten.
AI Literacy als Lösungsansatz
Ließe sich das nicht einfach technisch lösen? Nur begrenzt. Der Versuch von Echterhoff et al. (2024), Bias über geschicktes „Prompting“ (die gezielte Formulierung von Eingaben) zu verringern, brachte nur teilweise Verbesserungen. Wenn sich Bias so nicht vollständig entfernen lassen, liegt es nahe, zusätzlich beim Menschen anzusetzen, wobei sich AI Literacy als sinnvolle Stellschraube anbietet.
Was darunter zu verstehen ist, lässt sich gut an Wilhelms (2025) Seminarkonzept zeigen, das sich auf einen Literatur-Review von Ng et al. (2021) stützt.
Für die Erwachsenenbildung liegt das wichtigste Lernziel dabei nicht im Programmieren eigener Systeme, sondern in der kritischen Prüfung der Ausgaben. Eine solche kritische Prüfung hilft dabei, den Effekten des Automation Bias entgegenzuwirken. An dieser Stelle kann durch Bildung angesetzt werden.
AI Literacy im Seminarraum
Wilhelm (2025) nennt mehrere Faktoren, die er in der Arbeit mit seinen Gruppen als zentral erlebt hat. In der ersten Sitzung erhebt er Vorerfahrungen, Sorgen und Wünsche der Teilnehmenden sowie deren angestrebte Berufsfelder. Erst darauf aufbauend wählt er die passenden KI-Systeme aus, damit der Praxisbezug stimmt. Er berücksichtigt außerdem den sogenannten AI Divide, also die Beobachtung, dass demografische und sozioökonomische Merkmale und die technische Ausstattung den Zugang zu KI erschweren können. Bildung sollte deshalb bei der digitalen Grundkompetenz und bei den persönlichen Einstellungen ansetzen, etwa beim Abbau von Berührungsängsten. Der Kompetenzaufbau verläuft dabei schrittweise: zuerst ein Grundverständnis für Vokabular und Funktionsweise, dann die konkrete Anwendung, schließlich die kritische Bewertung der Ausgaben.
Über dieses Konzept hinaus lassen sich konkrete Ideen denken, wie man AI Literacy aufbauen könnte. Ein Beispiel ist Soekia GPT (https://www.soekia.ch/GPT/), ein vereinfachtes, webbasiertes Sprachmodell für Bildungszwecke. Es macht sichtbar, wie eine KI Text zerlegt und das nächste Wort rein statistisch berechnet. Lernende prompten das Modell und sehen unmittelbar, dass hinter der scheinbar klugen Ausgabe eine wahrscheinlichkeitsbasierte Vorhersage steht. Eine zweite Idee dreht den Spieß um. Lernende bekommen hier den Auftrag, die KI auszutricksen, also eine nachweislich falsche, aber überzeugend klingende Ausgabe zu provozieren. Anschließend analysiert die Gruppe, mit welchen sprachlichen Mitteln die KI ihre Unwissenheit verdeckt. Wer die Fehlbarkeit des KI-Systems einmal selbst erzeugt hat, entwickelt eine gesunde Skepsis.
Fazit
KI-Ausgaben sind schnell und überzeugend, aber weder neutral noch unfehlbar. Bedenklichwird es dann, wenn Menschen sie unkritisch übernehmen. AI Literacy setzt an dieser Stelle an. Sie zielt nicht darauf, aus allen Lernenden KI-Fachexperten zu machen, sondern darauf, Ausgaben souverän einordnen und hinterfragen zu können.
Literaturverzeichnis
Echterhoff, J., Liu, Y., Alessa, A., McAuley, J., & He, Z. (2024). Cognitive bias in decision-making with LLMs. In Findings of the Association for Computational Linguistics: EMNLP 2024 (S. 12640–12653). Association for Computational Linguistics. https://doi.org/10.18653/v1/2024.findings-emnlp.739
Koch, J. R., & Neuberg-Vural, A.-K. (2026, 9. Juli). Doktor ChatGPT: Jeder dritte Patient geht nach KI-Diagnose nicht zum Arzt. Berliner Morgenpost. https://www.morgenpost.de/panorama/article412519177/doktor-chatgpt-jeder-dritte-patient-geht-nach-ki-diagnose-nicht-zum-arzt.html
Ng, D. T. K., Leung, J. K. L., Chu, S. K. W., & Qiao, M. S. (2021). Conceptualizing AI literacy: An exploratory review. Computers and Education: Artificial Intelligence, 2, Artikel 100041. https://doi.org/10.1016/j.caeai.2021.100041
Rötzel, P. G. (2024). Künstliche Intelligenz (KI) – unser bester Freund? Wie Menschen auf KI-Entscheidungsempfehlungen reagieren. In S. Schork (Hrsg.), Vertrauen in Künstliche Intelligenz (S. 19–33). Springer Fachmedien. https://doi.org/10.1007/978-3-658-43816-6_2
Wilhelm, J. B. (2025). Generative KI-Kompetenzen lehren: Ein Praxisbericht aus der Hochschullehre für zukünftige Erwachsenenbildner*innen. Magazin erwachsenenbildung.at (S. 87–94). https://erwachsenenbildung.at/magazin/ausgabe-55
YouGov. (2025, 20. Juni). Gut zwei von fünf Deutschen haben schon einmal ChatGPT genutzt. YouGov.
Über die Autor*innen
Greta Freimüller, Luisa Glaß, Jerome Omoregbe und Klaas Jux sind Studierende der Interkulturellen Wirtschaftspsychologie an der Hochschule Hamm-Lippstadt. Grundlage für den vorliegenden Beitrag ist eine Seminararbeit zur Auseinandersetzung mit KI-Bias und AI Literacy im Bildungskontext, die unter der Betreuung von Prof. Dr. Christoph Harff entstand.
"Überzeugend, aber nicht neutral: Verzerrungen in KI und der Ansatz der AI Literacy" by Greta Freimüller, Luisa Glaß, Jerome Omoregbe und Klaas Jux für wb-web (2026), CC BY-SA 3.0 DE