---
title: "Automation Bias: Warum wir der KI zu schnell glauben und was dagegen hilft"
description: "Automation Bias erklärt: warum Menschen KI-Empfehlungen zu schnell folgen, was Studien zu Erklärungen, Gründern und Abhängigkeit zeigen und was dagegen hilft."
author: "Felix Schmitz"
author_url: https://felixshmtz.de/ueber-mich/
published: 2026-10-01
category: "KI & Automation"
canonical: https://felixshmtz.de/artikel/automation-bias/
language: de
---

# Automation Bias: Warum wir der KI zu schnell glauben und was dagegen hilft

Von Felix Schmitz, Digital Growth Hacker aus Köln: Gründer und Geschäftsführer der quik UG, Gründer von ai-website.com, baut den KI-Workspace quik OS.

## Kurz gesagt

- Automation Bias ist die Neigung, automatischen Empfehlungen zu sehr zu vertrauen und dabei eigene Prüfung oder widersprechende Hinweise zu vernachlässigen.
- Er zeigt sich auf zwei Arten: Man folgt einem falschen Vorschlag, oder man übersieht Fehler, auf die das System nicht hinweist.
- Eine Übersicht über 35 Studien zeigt, dass Erklärungen der KI allein selten schützen und manchmal sogar falsches Vertrauen verstärken.
- Bei 143 Wissensarbeitern hing tiefe Zusammenarbeit mit generativer KI mit Abhängigkeit und dem Gefühl zusammen, eigene Fähigkeiten zu verlieren, besonders bei unternehmerisch geprägten Menschen.
- Am besten hilft gezielte Reibung: erst selbst denken, dann die KI fragen, aktiv nach Gegenargumenten suchen und Ergebnisse stichprobenartig prüfen.

Automation Bias ist die Neigung, Empfehlungen automatisierter Systeme wie einer KI zu sehr zu vertrauen und dabei die eigene Prüfung oder widersprechende Hinweise zu vernachlässigen. Er zeigt sich auf zwei Arten: Man folgt einem falschen Vorschlag, oder man übersieht Fehler, auf die das System nicht hinweist. Studien zeigen, dass Erklärungen der KI dagegen wenig ausrichten und gezielte Reibung beim Prüfen mehr hilft.

Mich betrifft das Thema direkt. Ich baue viel mit KI, zum Beispiel die App quik connect, die ich mit Claude Code in zwei Wochen gebaut habe. Ein Learning aus diesem Projekt begleitet mich seitdem: KI ändert das Tempo, nicht das Verstehen. Wer schneller wird, ohne mehr zu verstehen, übernimmt irgendwann Ergebnisse, die er nicht mehr beurteilen kann. Genau das beschreibt Automation Bias.

Für diesen Artikel habe ich Studien zu übermäßigem Vertrauen in KI gelesen. Viele stammen aus Medizin und Bildung, wo die Folgen von Fehlern gut messbar sind. Vier fand ich für Gründer und kleine Teams besonders aufschlussreich, darunter eine, die genau unternehmerisch geprägte Menschen untersucht.

## Was Automation Bias ist und wie er sich zeigt

Der Begriff stammt aus der Forschung zu Autopiloten und Entscheidungshilfen, lange bevor es Sprachmodelle gab. Zwei Fehlerarten werden dort unterschieden:

1. **Fehler durch Befolgen.** Das System schlägt etwas Falsches vor, und du übernimmst es. Ein KI-Tool empfiehlt eine Formulierung im Vertrag, die rechtlich nicht hält, und sie landet im Dokument.
2. **Fehler durch Auslassen.** Das System schweigt zu einem Problem, und du übersiehst es deshalb. Die KI prüft eine Rechnung, meldet nichts, und der falsche Betrag fällt niemandem auf.

Der zweite Fehler ist tückischer, weil er unsichtbar bleibt. Wer sich an ein System gewöhnt hat, verlässt sich darauf, dass es Alarm schlägt. Was es nicht meldet, gilt dann als in Ordnung.

Jovchevski, Buijsman und Neerincx (2026) gehen in Philosophy & Technology einen Schritt weiter. Sie unterscheiden einen schwachen und einen starken Automation Bias. Beim schwachen folgt jemand dem System, ohne leicht zugängliche Gegenbelege zu prüfen. Beim starken folgt er ihm sogar, obwohl er solche Belege kennt.

![Vergleichsgrafik zu Automation Bias: Beim schwachen Automation Bias wird ein zugänglicher Gegenbeleg nicht geprüft, beim starken wird dem System trotz bekanntem Gegenbeleg gefolgt, beides lässt sich mit gezielter Reibung angehen](https://felixshmtz.de/grafiken/automation-bias/automation-bias-schwach-stark.webp)

*Schwacher und starker Automation Bias: Beim schwachen Automation Bias fehlt die Prüfung, beim starken fehlt der Mut, dem eigenen Wissen zu folgen.*

Ethisch problematisch finden die Autoren vor allem die starke Form. Sie beschreibt, dass Menschen ihr eigenes Urteil an eine Maschine abtreten, obwohl sie es besser wissen. Als Gegenmittel schlagen sie Werkzeuge vor, die bewusst Reibung erzeugen: sogenannte Reflection Machines, die zum Nachdenken anregen sollen, und sogenannte Defeaters, also gezielte Gegenargumente, die eine Empfehlung infrage stellen. Ziel ist ein kritisches Vertrauen in das System.

## Was ein Experiment aus der Verwaltung zeigt

Wie sich Automation Bias im Alltag bemerkbar macht, zeigt ein kleines Experiment von Dhungel und Kollegen (2026), vorgestellt auf einer Konferenz zu digitaler Verwaltung. 31 Teilnehmende prüften Daten, die Unternehmen über ihre Beschäftigten eingereicht hatten, und entschieden, ob eine Prüfung vor Ort nötig war. Eine Gruppe arbeitete mit einem KI-System, das Automation Bias eher förderte, eine mit einem, das ihn eher bremsen sollte, und eine ohne KI.

Das Ergebnis ist zwiespältig. Beide KI-Gruppen fanden insgesamt mehr Fehler in den Daten als die Gruppe ohne KI. Gleichzeitig fanden sie weniger von genau den Fehlern, die für Automation Bias relevant waren. Sie verließen sich also auf das, was das System hervorhob. Außerdem arbeiteten sie deutlich schneller. Zwischen den beiden Gestaltungen der KI zeigte sich kein Unterschied, und auch KI-Kenntnisse hingen nicht mit der Leistung zusammen.

Mit 31 Personen ist die Studie klein, ich würde ihre Ergebnisse deshalb nicht verallgemeinern. Das Muster ist aber genau der Fehler durch Auslassen. Die KI macht dich schneller und besser bei dem, worauf sie zeigt. Was sie nicht zeigt, fällt aus deinem Blick.

## Warum Erklärungen allein nicht schützen

Eine naheliegende Idee lautet: Wenn die KI erklärt, wie sie zu einem Ergebnis kommt, prüfen Menschen genauer. Romeo und Conti (2026) haben in AI & Society 35 begutachtete Studien aus den Jahren 2015 bis April 2025 ausgewertet, aus Psychologie, Ergonomie, Mensch-Computer-Interaktion und Neurowissenschaften.

Ihr Befund ist ernüchternd. Erklärungen erhöhen zwar die Akzeptanz eines Systems, verbessern aber oft nicht die Genauigkeit der Entscheidungen. Zu technische, zu anstrengende oder auch zu einfache Erklärungen können falsches Vertrauen sogar verstärken. Das trifft vor allem weniger erfahrene Menschen mit geringen KI-Kenntnissen.

Neben übergroßem Vertrauen und begrenzter Aufmerksamkeit nennen die Autoren weitere Faktoren, die Automation Bias beeinflussen: KI-Kenntnisse, Fachwissen, die Art, wie jemand denkt, wie sich Vertrauen über die Zeit entwickelt, wie aufwendig das Prüfen ist und wie komplex die Erklärung ausfällt. Den wirksamsten Ansatzpunkt sehen sie beim Nutzer selbst. Mehr Aufwand beim Prüfen senkt nachweislich die Nachlässigkeit gegenüber falschen KI-Empfehlungen.

Für mich ist das die wichtigste praktische Aussage. Eine schöne Begründung der KI ist kein Beleg. Sie kann das Gefühl von Sicherheit sogar vergrößern, ohne dass das Ergebnis richtiger wird. Warum Sprachmodelle überzeugend formulierte Fehler produzieren, beschreibe ich im Artikel über [KI-Halluzinationen](https://felixshmtz.de/artikel/ki-halluzinationen/).

## Vom Antrieb zur Abhängigkeit: was eine Studie über Gründer zeigt

Die Studie, die mich am meisten betroffen hat, stammt von Subramanya, Krishnan und Azad (2026) aus Information Systems Frontiers. Sie haben 143 Wissensarbeiter aus fünf Ländern befragt und eine Kette von Zusammenhängen untersucht, die sie selbst als „Hustle-to-Handicap“-Muster bezeichnen.

Menschen mit stark unternehmerischer Haltung gehören zu den frühesten und begeistertsten Nutzern generativer KI. Diese Begeisterung führt zu tieferer Zusammenarbeit mit der KI. Dauerhafte Zusammenarbeit geht mit Abhängigkeit einher, und Abhängigkeit mit dem Gefühl, eigene berufliche Fähigkeiten zu verlieren. Wer stark langfristig denkt, rutscht laut den Autoren sogar leichter von der Zusammenarbeit in die Abhängigkeit. Sie vermuten, dass solche Menschen die tägliche Nutzung als strategische Investition sehen und Gegenmaßnahmen weniger dringend finden.

![Grafik in vier Schritten zu Automation Bias bei Gründern: Unternehmerischer Antrieb führt zu tiefer Zusammenarbeit mit KI, daraus wird Abhängigkeit und schließlich das Gefühl, eigene Fähigkeiten zu verlieren](https://felixshmtz.de/grafiken/automation-bias/automation-bias-hustle-to-handicap.webp)

*Vom unternehmerischen Antrieb zum Verlust von Fähigkeiten: Die Begeisterung, die KI schnell nutzbar macht, kann über die Zeit in Abhängigkeit kippen.*

Zwei Einschränkungen gehören dazu. Gemessen wurde der wahrgenommene Verlust von Fähigkeiten, kein tatsächlicher. Und es handelt sich um eine Befragung, die Zusammenhänge zeigt, keine Ursachen. Trotzdem erkenne ich mich in der Beschreibung wieder. Wer gerne schnell baut und an langfristige Hebel glaubt, ist genau der Typ, der KI überall einsetzt und Gegenmaßnahmen auf später verschiebt.

## Wo Automation Bias im Alltag kleiner Teams auftritt

Die Studien stammen aus Verwaltung, Medizin und Wissensarbeit. Im Alltag eines kleinen Unternehmens tauchen dieselben zwei Fehlerarten an ganz gewöhnlichen Stellen auf. Diese Übersicht ist meine eigene Zusammenstellung:

| Bereich | Fehler durch Befolgen | Fehler durch Auslassen |
|---|---|---|
| Buchhaltung | Die KI ordnet eine Ausgabe falsch zu, du bestätigst | Eine doppelte Rechnung wird nicht markiert und bezahlt |
| Texte | Eine erfundene Zahl landet im Blogartikel | Eine veraltete Angabe bleibt stehen, weil die KI sie nicht anmerkt |
| Code | Ein vorgeschlagener Baustein hat eine Sicherheitslücke | Ein Sonderfall wird nie getestet, weil die KI ihn nicht erwähnt |
| Recherche | Eine Zusammenfassung verdreht die Aussage einer Quelle | Eine wichtige Gegenposition fehlt in der Übersicht |
| Kundenanfragen | Eine KI-Antwort sagt etwas zu, das du nicht halten kannst | Eine Beschwerde zwischen den Zeilen geht unter |

Die rechte Spalte ist die, über die kaum jemand spricht. Fehler durch Befolgen fallen oft irgendwann auf, weil etwas schiefgeht. Fehler durch Auslassen bleiben häufig unentdeckt, weil nie jemand nach ihnen sucht. Wenn du nur eine Spalte im Blick behältst, dann diese.

## Automation Bias vermeiden: Reibung bewusst einbauen

Alle vier Studien laufen auf denselben Gedanken hinaus. Gegen Automation Bias hilft am meisten ein Ablauf, der dich zum Prüfen zwingt. Diese sechs Gewohnheiten würde ich kleinen Teams empfehlen:

1. **Erst selbst, dann die KI.** Bilde dir eine eigene Meinung oder schätze eine Zahl, bevor du die KI fragst. So hast du einen Maßstab, an dem du ihre Antwort misst.
2. **Nach Gegenargumenten fragen.** Bitte die KI ausdrücklich, ihre eigene Empfehlung anzugreifen. Das ist die einfachste Form der Einwände, die Jovchevski und Kollegen vorschlagen.
3. **Nach dem Ungesagten suchen.** Frag dich bei jeder KI-Prüfung, worauf das System nicht geschaut hat. Das ist das Gegenmittel zum Fehler durch Auslassen aus dem Verwaltungsexperiment.
4. **Stichproben ziehen.** Prüf regelmäßig einige Ergebnisse vollständig von Hand, auch wenn bisher alles gestimmt hat. Mehr Aufwand beim Prüfen senkt laut Romeo und Conti die Nachlässigkeit.
5. **Prüftiefe nach Risiko.** Ein Social-Media-Post braucht einen kurzen Blick, ein Vertrag oder eine Preisentscheidung eine vollständige Prüfung.
6. **Fähigkeiten ohne KI üben.** Schreib, rechne oder plane regelmäßig auch ohne Unterstützung. So bleibt das Urteil erhalten, das du zum Prüfen brauchst.

**Selbstcheck, wie anfällig bist du für Automation Bias**

- [ ] Ich habe eine KI-Zahl übernommen, ohne die Quelle nachzusehen
- [ ] Ich frage die KI meist, bevor ich selbst über ein Problem nachgedacht habe
- [ ] Ich bitte die KI selten, ihre eigene Empfehlung zu hinterfragen
- [ ] Wenn die KI bei einer Prüfung nichts meldet, gehe ich davon aus, dass alles stimmt
- [ ] Ich habe einen KI-Vorschlag übernommen, obwohl ich Zweifel hatte
- [ ] Manche Aufgaben traue ich mir ohne KI kaum noch zu

Automation Bias hat auch ein Gegenstück: Manche Menschen misstrauen einem System nach einem einzigen Fehler komplett. Diese Seite beschreibe ich im Artikel über [Algorithm Aversion](https://felixshmtz.de/artikel/algorithm-aversion/). Ziel ist in beiden Fällen dasselbe, ein Vertrauen, das zur tatsächlichen Zuverlässigkeit passt. Wie eine gute Arbeitsteilung zwischen Mensch und Maschine aussieht, steht im Artikel zur [Zusammenarbeit von Mensch und KI](https://felixshmtz.de/artikel/mensch-ki-zusammenarbeit/).

## Wo ich selbst gegen Automation Bias aufpasse

Ein zweites Learning aus quik connect passt hierher: Die letzten 20 % fressen mehr Energie als die ersten 80 %. Mit KI gehen die ersten 80 % sehr schnell. Die letzten 20 %, in denen Details stimmen müssen, verlangen genau das Prüfen, das Automation Bias untergräbt. Wer dort der KI blind folgt, spart die Energie an der falschen Stelle.

> Je besser die KI wird, desto seltener prüfe ich sie. Genau deshalb plane ich das Prüfen fest ein.

Am anfälligsten bin ich vermutlich bei Aufgaben, bei denen die KI meistens recht hat. Wenn ein Werkzeug hundertmal richtig lag, fühlt sich das hunderterste Prüfen wie Zeitverschwendung an. Darum verlasse ich mich auf feste Prüfschritte, die unabhängig davon laufen, wie sicher ich mich fühle. Systeme statt Willenskraft gilt auch hier.

Besonders vorsichtig bin ich überall dort, wo eine KI über Menschen urteilt: was Kunden wollen, wie ein Markt reagiert, wer ein Projekt verzögert. Hier ist die Versuchung groß, eine gut formulierte Einschätzung für Wissen zu halten. Wie das in der Marktforschung aussieht, beschreibe ich im Artikel zur [KI-Marktforschung](https://felixshmtz.de/artikel/ki-marktforschung/). Für Projektabläufe habe ich die Prüfschritte im Artikel über [KI im Projektmanagement](https://felixshmtz.de/artikel/ki-projektmanagement/) festgehalten.

## Fazit

Automation Bias entsteht in uns, auch wenn die KI ihn auslöst. Die Studien zeigen, dass Erklärungen der KI wenig dagegen ausrichten, dass KI uns schneller macht und dabei blind für das, worauf sie nicht zeigt, und dass gerade unternehmerisch geprägte Menschen in Abhängigkeit rutschen können. Am meisten hilft bewusste Reibung: erst selbst denken, gezielt nach Gegenargumenten fragen und fest eingeplante Stichproben.

Mein Vorschlag für diese Woche: Schreib vor den nächsten drei wichtigen KI-Fragen deine eigene Einschätzung auf, bevor du die Antwort liest. Vergleiche danach beides und notiere, wo du ohne die Notiz einfach übernommen hättest. Was ich selbst über die Arbeit mit KI lerne, teile ich in den [Unternehmer Thoughts](https://felixshmtz.de/unternehmer-thoughts/).

## Häufige Fragen

### Was ist Automation Bias?

Automation Bias ist die Neigung, Empfehlungen eines automatisierten Systems zu sehr zu vertrauen. Menschen übernehmen dann falsche Vorschläge oder übersehen Fehler, auf die das System nicht hinweist, obwohl sie es besser wissen könnten.

### Was ist der Unterschied zwischen Automation Bias und Algorithm Aversion?

Die beiden sind Gegenstücke. Bei Automation Bias vertrauen Menschen einem System zu sehr, bei Algorithm Aversion zu wenig, oft schon nach einem einzigen Fehler. Ziel ist in beiden Fällen ein Vertrauen, das zur tatsächlichen Zuverlässigkeit passt.

### Wie kann man Automation Bias vermeiden?

Bilde dir zuerst ein eigenes Urteil und frag erst danach die KI. Bitte sie ausdrücklich um Gegenargumente, prüf Ergebnisse stichprobenartig und übe wichtige Fähigkeiten regelmäßig auch ohne KI.

### Helfen Erklärungen der KI gegen Automation Bias?

Nur begrenzt. Eine Übersicht über 35 Studien zeigt, dass Erklärungen die Akzeptanz eines Systems erhöhen, die Genauigkeit von Entscheidungen aber oft nicht verbessern. Zu technische oder zu einfache Erklärungen können falsches Vertrauen sogar verstärken.

## Quellen

- [Romeo, Conti (2026): Exploring automation bias in human–AI collaboration: a review and implications for explainable AI. AI & Society](https://doi.org/10.1007/s00146-025-02422-7)
- [Subramanya, Krishnan, Azad (2026): The Complementarity Paradox: Human-AI Collaboration, Overreliance, and Skill Decline in Entrepreneurial Contexts. Information Systems Frontiers](https://doi.org/10.1007/s10796-026-10804-5)
- [Jovchevski, Buijsman, Neerincx (2026): What is Wrong With Automation Bias? Philosophy & Technology](https://doi.org/10.1007/s13347-026-01090-9)
- [Dhungel, Aleknonyte-Resch, Watermann et al. (2026): Overreliance by Design? the Influence of AI System Interface Choices on Automation Bias in Public Administration. International Conference on eDemocracy & eGovernment (ICEDEG)](https://doi.org/10.1109/ICEDEG70169.2026.11695473)

Quelle: https://felixshmtz.de/artikel/automation-bias/
