Algorithmische Entscheidungen: Wann du der Maschine das Urteil überlässt

Algorithmische Entscheidungen im Unternehmen: was Studien zu Algorithmen und Managern zeigen, wann menschliche Leitplanken helfen und wo Verantwortung bleibt.

KI & Automation · · 8 Min.

Titelbild zum Artikel „Algorithmische Entscheidungen: Wann du der Maschine das Urteil überlässt“ von Felix Schmitz (KI & Automation)

Kurz gesagt

  • Algorithmische Entscheidungen sind Entscheidungen, die ein Programm auf Grundlage von Daten trifft oder so weit vorbereitet, dass ein Mensch sie nur noch bestätigt.
  • In einem Industrieunternehmen schlug eine technisch gute Kundenpriorisierung per Algorithmus die Manager nicht eindeutig, weil Algorithmus und Organisation nicht zusammenpassten.
  • Ein Rechenmodell von Chen, Hu und Li zeigt, dass menschliche Leitplanken vor allem helfen, wenn dem Algorithmus Marktwissen fehlt oder das Modell falsch gebaut ist.
  • In einem Experiment mit 122 Managern führten ungerechte algorithmische Empfehlungen zu diskriminierenden Entscheidungen, ohne dass die Entscheider mehr Schuld empfanden.
  • Für kleine Teams gilt: häufige Entscheidungen mit geringer Tragweite automatisieren, bei Entscheidungen über Menschen empfehlen lassen und selbst entscheiden.
Mit ChatGPT, Claude oder Perplexity weiterdenken
Inhalt9 Abschnitte

Algorithmische Entscheidungen sind Entscheidungen, die ein Computerprogramm auf Grundlage von Daten trifft oder so weit vorbereitet, dass ein Mensch sie nur noch bestätigt. Beispiele sind die Reihenfolge, in der Kunden betreut werden, ein automatisch gesetzter Preis oder die Vorauswahl von Bewerbungen. Sie sind schnell und einheitlich, aber nur so gut wie die Daten, das Modell und die Art, wie sie in die Arbeit eines Unternehmens eingebettet sind.

Ich habe in der Business Intelligence bei Snipes gearbeitet. Dort ging es jeden Tag um Daten, Tracking und die Frage, was man aus Zahlen ableiten kann. Seitdem habe ich großen Respekt vor Daten und ein gewisses Misstrauen gegenüber dem Satz „Das hat der Algorithmus so berechnet“. Beides gehört für mich zusammen.

Dieser Artikel hat einen bestimmten Fokus. Warum Menschen Algorithmen ablehnen, beschreibe ich im Artikel über Algorithm Aversion. Warum sie ihnen manchmal zu blind vertrauen, steht im Artikel zum Automation Bias. Hier geht es um die Gestaltungsfrage dazwischen: Welche Entscheidungen gibst du ab, und wie baust du das so, dass es dir wirklich hilft.

Was algorithmische Entscheidungen sind und welche Stufen es gibt

Nicht jede algorithmische Entscheidung ist gleich. Ich unterscheide drei Stufen, je nachdem, wie viel der Mensch noch mitredet.

Stufe Was der Algorithmus tut Beispiel
Empfehlung Schlägt vor, der Mensch entscheidet Ein CRM sortiert Leads nach Abschlusswahrscheinlichkeit
Entscheidung mit Freigabe Entscheidet, der Mensch bestätigt oder stoppt Ein Werkzeug setzt neue Preise, die du einmal am Tag freigibst
Automatik Entscheidet allein, der Mensch prüft im Nachhinein Ein Filter sortiert eingehende Mails in Ordner

Je weiter unten in der Tabelle, desto schneller und billiger wird es. Und desto teurer wird ein Fehler, weil niemand ihn rechtzeitig bemerkt. Die Kunst liegt darin, für jede Entscheidung die passende Stufe zu wählen.

Die Forschung, die ich dazu gelesen habe, liefert vier Bausteine. Sie stammen aus sehr unterschiedlichen Welten: einem Industrieunternehmen, einem Rechenmodell, einem Experiment mit Managern und der deutschen Arbeitsverwaltung.

Wenn der Algorithmus die Manager nicht schlägt

Luoma und Ahola (2026) untersuchen in Industrial Marketing Management ein Projekt zur Kundenpriorisierung in einem großen Industrieunternehmen. Die Frage: Entscheidet ein Algorithmus besser als die Manager, welche Kunden bevorzugt behandelt werden? Die Autoren kombinieren statistische Modelle, maschinelles Lernen und eine Analyse, was ohne Algorithmus passiert wäre.

Das Ergebnis widerspricht einer verbreiteten Annahme. Obwohl der Algorithmus technisch zufriedenstellend arbeitete, schnitt er nicht eindeutig besser ab als die menschlichen Entscheider. Die Autoren werten das nicht als technisches Versagen. Sie sehen zwei Gründe: Die Manager haben schlicht gut priorisiert, und Algorithmus und Organisation passten nicht zusammen.

Drei Dinge entscheiden laut der Studie darüber, ob ein Algorithmus hier Mehrwert bringt:

  1. die Entscheidungslogik, nach der die Manager bisher vorgegangen sind,
  2. das Repertoire an Maßnahmen, mit denen ein Kunde überhaupt bevorzugt behandelt werden kann,
  3. die Struktur des Kundenstamms.

Diese drei Elemente können sich gegenseitig so festhalten, dass der Wert des Algorithmus begrenzt bleibt.

Den zweiten Punkt finde ich für kleine Unternehmen am wichtigsten. Wenn du einem wichtigen Kunden nur zwei Dinge mehr bieten kannst, etwa einen schnelleren Rückruf und ein persönliches Gespräch, dann hilft dir die beste Rangliste wenig. Die Rangliste ist nur so wertvoll wie das, was du mit ihr tun kannst. Bevor du in Lead-Scoring investierst, würde ich deshalb fragen, was sich für einen Kunden auf Platz eins konkret ändert.

Ein Beispiel dazu. Angenommen, ein Webdesign-Studio mit 40 Bestandskunden lässt ein Werkzeug berechnen, welche Kunden am ehesten einen Folgeauftrag erteilen. Die Liste ist gut. Aber das Studio hat nur eine Maßnahme für die oberen Plätze: einen Anruf der Inhaberin. Die Inhaberin ruft ohnehin seit Jahren die Kunden an, bei denen sie ein gutes Gefühl hat. Am Ende landen dieselben Namen oben, die sie auch ohne Liste angerufen hätte. Der Algorithmus ist nicht schlecht. Er hat nur nichts, womit er einen Unterschied machen könnte.

Das ist im Kleinen, was Luoma und Ahola als gegenseitiges Festhalten beschreiben. Die bisherige Logik, die wenigen Maßnahmen und ein kleiner Kundenstamm lassen dem Werkzeug kaum Spielraum. Wer den Nutzen erhöhen will, sollte zuerst sein Repertoire erweitern, etwa um ein Angebot für Bestandskunden oder einen festen Termin für ein Jahresgespräch.

Welche Entscheidungen du abgeben kannst

Aus dieser Studie und meiner eigenen Erfahrung ergibt sich eine einfache Sortierung. Zwei Fragen helfen: Wie häufig fällt die Entscheidung an, und wie groß ist die Tragweite für Menschen?

Grafik als Matrix für algorithmische Entscheidungen nach Häufigkeit und Tragweite: selbst entscheiden, Algorithmus empfiehlt und Mensch entscheidet, Bauchgefühl reicht sowie automatisieren
Häufige Entscheidungen mit geringer Tragweite kannst du automatisieren, bei Entscheidungen über Menschen empfiehlt der Algorithmus nur.

Die Matrix ist meine Vereinfachung, keine Studie hat sie so getestet. Sie hilft mir aber, im Alltag schnell zu sehen, wo ich vorsichtig sein muss.

Menschliche Leitplanken: wann dein Wissen den Algorithmus verbessert

Chen, Hu und Li (2026) beschreiben in Naval Research Logistics eine Situation, die jeder kennt, der mit Prognose- oder Preiswerkzeugen arbeitet. Der Algorithmus empfiehlt etwas, und der Mensch hat ein anderes Gefühl. Die Autoren untersuchen mit einem Rechenmodell eine bestimmte Form der Zusammenarbeit: Der Mensch setzt eine Leitplanke. Liegt die Empfehlung außerhalb dieser Grenzen und wirkt unvernünftig, wird sie auf die Grenze zurückgeschnitten.

Ihr Ergebnis hat zwei Seiten. Ist der Algorithmus bei großen Datenmengen nahezu optimal, bringt die menschliche Leitplanke meist nichts. In zwei häufigen Fällen hilft sie aber trotzdem, selbst wenn genug Daten da sind:

  • wenn dem Algorithmus Wissen über den Markt fehlt, etwa über Wettbewerber,
  • wenn das Modell falsch gebaut ist, also die Wirklichkeit anders abbildet, als sie ist.
Vergleichsgrafik zu algorithmischen Entscheidungen ohne und mit menschlicher Leitplanke bei guter Datenlage, fehlendem Marktwissen, falsch gebautem Modell und Pflegeaufwand
Eine Leitplanke lohnt sich vor allem dort, wo dem Algorithmus Wissen fehlt oder sein Modell nicht zur Wirklichkeit passt.

Für ein kleines Unternehmen ist der zweite Fall der Normalfall. Du kennst deinen Markt besser als jedes Standardwerkzeug. Wenn ein Preiswerkzeug dir rät, den Preis zu verdoppeln, weil die Nachfrage steigt, weißt du vielleicht, dass ein Wettbewerber gerade eine Aktion fährt. Genau dafür ist die Leitplanke da. Wie das bei Preisalgorithmen konkret aussieht, beschreibe ich im Artikel zur algorithmischen Preisgestaltung.

Ungerechte Empfehlungen und ein ruhiges Gewissen

Die beunruhigendste Studie in meiner Auswahl stammt von Ghasemaghaei und Kordzadeh (2024) aus Information & Management. In einem Experiment mit 122 Managern zeigen sie: Ungerechte algorithmische Empfehlungen führen zu diskriminierenden Entscheidungen. Die Manager empfanden dabei nicht mehr Schuld.

Das Vertrauen in die Ergebnisse von Datenanalysen beeinflusste, wie stark die ungerechte Empfehlung auf die Entscheidung durchschlug. Die Neigung, Verantwortung auf andere abzuschieben, spielte dagegen keine messbare Rolle.

Für mich ist das eine Warnung, die über große Konzerne hinausgeht. Ein Algorithmus kann eine Entscheidung so sachlich wirken lassen, dass wir ihre Folgen nicht mehr spüren. Besonders heikel ist das überall, wo es um Menschen geht, etwa bei der Auswahl von Bewerbungen. Was ich dort beim Einsatz von KI beachten würde, steht im Artikel über KI im Recruiting.

Das Experiment lief mit Managern, nicht mit Gründern kleiner Firmen. Ich sehe aber keinen Grund, warum wir dagegen immun sein sollten. Im Gegenteil: Wer allein entscheidet, hat niemanden, der nachfragt. Angenommen, ein Werkzeug bewertet Anfragen auch nach Postleitzahl, weil Kunden aus bestimmten Gegenden in den Daten seltener gekauft haben. Die Bewertung wirkt neutral. Tatsächlich benachteiligt sie Menschen nach ihrem Wohnort, und niemand bemerkt es, weil die Zahl so sachlich aussieht.

Mein Gegenmittel ist einfach: Bei jeder Bewertung von Menschen will ich wissen, welche Merkmale einfließen. Wenn ich es nicht erfahren kann, nutze ich das Werkzeug dafür nicht.

Unterstützung ja, Pflicht nein

Die vierte Studie kommt aus Deutschland. Dietz, Osiander, Sirman-Winkler und Tepe (2026) haben in Public Administration Review eine repräsentative Stichprobe von Vermittlungsfachkräften der Bundesagentur für Arbeit befragt. In einem sogenannten Conjoint-Experiment verglichen die Teilnehmenden Paare von gedachten Unterstützungssystemen, die sich in ihrer Gestaltung unterschieden.

Die Sorge vorab war, dass die Fachkräfte Systeme bevorzugen, die Risiken einseitig auf ihre Kunden abwälzen. Das bestätigte sich nicht. Die Fachkräfte wogen berufliche Werte, Servicequalität und Effizienz gegeneinander ab. Sie schätzen algorithmische Unterstützung, lehnen eine verpflichtende Nutzung der Empfehlungen aber klar ab. Systeme, die Zeit sparen, ohne Verantwortlichkeit, Datenschutz oder Servicequalität zu opfern, kamen am besten an. Der eigenen IT-Abteilung vertrauten sie mehr als externen Anbietern.

Die Studie kommt aus der Verwaltung, nicht aus einem Start-up. Die Lehre lässt sich trotzdem übertragen. Wenn du in deinem Team ein Werkzeug einführst, das Empfehlungen gibt, mach es zu einer Hilfe, die man begründet ignorieren darf. Und bezieh die Menschen, die damit arbeiten sollen, in die Gestaltung ein.

Algorithmische Entscheidungen einführen: fünf Fragen

Bevor ich eine Entscheidung an ein Werkzeug abgebe, gehe ich diese fünf Fragen durch:

  1. Was genau wird entschieden, und wie oft? Je häufiger und je besser messbar, desto eher lohnt sich ein Algorithmus.
  2. Was kann ich mit dem Ergebnis tun? Eine Rangliste ohne passende Maßnahmen bringt wenig, wie Luoma und Ahola zeigen.
  3. Welche Grenzen setze ich? Leg fest, ab wann ein Mensch prüft, etwa bei Preisen außerhalb eines Korridors.
  4. Wer darf widersprechen? Bei Entscheidungen über Menschen braucht es eine Person, die eine Empfehlung begründet ablehnen kann.
  5. Wie prüfe ich auf Schieflagen? Schau regelmäßig, ob die Ergebnisse für bestimmte Gruppen systematisch anders ausfallen.

Wie ich selbst Entscheidungen an Algorithmen abgebe

Bei mir landen vor allem Entscheidungen im Feld unten rechts bei Werkzeugen: Sortieren, Erinnern, Zuordnen. Das folgt einem Prinzip, das ich für fast alles im Unternehmen nutze, Systeme statt Willenskraft. Was jede Woche gleich abläuft, soll nicht von meiner Tagesform abhängen.

Preise dagegen entscheide ich selbst. Bei quik arbeite ich mit Festpreisen, und die lege ich bewusst fest, statt sie von einem Werkzeug berechnen zu lassen. Ein Festpreis ist ein Versprechen an den Kunden, und dieses Versprechen soll von mir kommen.

In quik OS arbeiten KI-Assistenten wie Claude über einen rechtebasierten Zugang direkt mit. Auch dort gilt für mich die mittlere Stufe aus der Tabelle oben: Die KI bereitet vor und schlägt vor, ein Mensch entscheidet. Wie sich die Arbeit zwischen Mensch und KI sinnvoll aufteilen lässt, beschreibe ich im Artikel zur Mensch-KI-Zusammenarbeit.

Ein Algorithmus kann dir eine Entscheidung abnehmen, die Verantwortung dafür nimmt er dir nie ab.

Wenn es um Entscheidungen geht, bei denen du gar keine verlässlichen Daten hast, hilft ein anderer Werkzeugkasten. Den beschreibe ich im Artikel über Entscheidungen unter Unsicherheit.

Fazit

Algorithmische Entscheidungen sind dann stark, wenn sie häufig anfallen, gut messbar sind und zur Arbeitsweise deines Unternehmens passen. Die Studien zeigen, dass technische Genauigkeit allein nicht reicht, dass menschliches Wissen dort hilft, wo dem Algorithmus Marktwissen fehlt, und dass ungerechte Empfehlungen unbemerkt durchschlagen können. Die Menschen, die damit arbeiten, wollen Unterstützung, eine Pflicht lehnen sie ab.

Mein Vorschlag für diese Woche: Schreib zehn Entscheidungen auf, die in deinem Unternehmen regelmäßig anfallen, und sortier sie in die Matrix aus Häufigkeit und Tragweite. Such dir eine aus dem Feld unten rechts und automatisiere sie. Was ich bei meinen eigenen Automationen dazu lerne, teile ich in den Unternehmer Thoughts.

Mit KI weiterdenken

Frag deine KI zu diesem Artikel

Öffnet den Dienst in einem neuen Tab. Erst mit dem Klick geht der Prompt an den Anbieter, vorher wird nichts übertragen.

Häufige Fragen

Was sind algorithmische Entscheidungen?

Algorithmische Entscheidungen sind Entscheidungen, die ein Computerprogramm anhand von Daten und Regeln trifft oder vorbereitet. Beispiele sind die Reihenfolge, in der Kunden betreut werden, automatisch gesetzte Preise oder die Vorauswahl von Bewerbungen.

Sind Algorithmen bessere Entscheider als Menschen?

Nicht automatisch. Bei häufigen, gut messbaren Entscheidungen mit vielen Daten sind Algorithmen oft stark. Fehlt ihnen Wissen über den Markt, ist das Modell falsch gebaut oder passt es nicht zur Arbeitsweise des Unternehmens, kann menschliches Urteil das Ergebnis verbessern.

Wer haftet für algorithmische Entscheidungen?

Die Verantwortung bleibt bei dem Unternehmen, das den Algorithmus einsetzt. Der EU AI Act stellt für bestimmte Bereiche wie Personalauswahl zusätzliche Anforderungen an menschliche Aufsicht und Dokumentation. Im Einzelfall solltest du rechtlich prüfen lassen, was für dich gilt.

Wie verhindere ich Diskriminierung durch Algorithmen?

Prüf regelmäßig, ob Ergebnisse für verschiedene Gruppen systematisch unterschiedlich ausfallen, und lass Entscheidungen über Menschen von einer Person verantworten, die widersprechen darf. Forschung zeigt, dass Menschen ungerechten Empfehlungen sonst folgen können, ohne es zu merken.

Quellen4 Quellen
  1. Luoma, Ahola (2026): On the difficulty of using algorithms to replace managers in decision making: A study of customer prioritization. Industrial Marketing Management (öffnet in neuem Tab)
  2. Chen, Hu, Li (2026): Algorithmic Decision‐Making Safeguarded by Human Knowledge. Naval Research Logistics (öffnet in neuem Tab)
  3. Ghasemaghaei, Kordzadeh (2024): Understanding how algorithmic injustice leads to making discriminatory decisions: An obedience to authority perspective. Information & Management (öffnet in neuem Tab)
  4. Dietz, Osiander, Sirman‐Winkler et al. (2026): Biased by Design? Case Managers' Multidimensional Preferences Toward the Design of Algorithmic Decision Support Systems. Public Administration Review (öffnet in neuem Tab)

Passt dazu

Alle Artikel