KI-Agenten: Was sie können und warum ihre Grenzen ins System gehören

KI-Agenten erklärt: was sie von Chatbots unterscheidet, was Studien über Fehler und Verantwortung zeigen und wie du als kleines Team sicher damit startest.

KI & Automation · · 8 Min.

Titelbild zum Artikel „KI-Agenten: Was sie können und warum ihre Grenzen ins System gehören“ von Felix Schmitz (KI & Automation)

Kurz gesagt

  • KI-Agenten bekommen ein Ziel, planen die Schritte selbst und nutzen dafür Werkzeuge wie E-Mail, Kalender oder Datenbanken.
  • In einem 70-tägigen Feldexperiment hielten Grenzen, die technisch beim Ausführen erzwungen wurden, während Regeln, die der Agent selbst befolgen sollte, unter Druck versagten.
  • Eine Analyse von 15 dokumentierten Fällen zeigt, dass Agenten, die Kunden etwas zusagen, ohne klare Leitplanken Versprechen machen, die das Unternehmen nicht halten kann.
  • Wer einen Agenten einsetzt, bleibt laut einer philosophischen Analyse für dessen Handeln verantwortlich, auch wenn er die einzelne Aktion nicht vorhergesehen hat.
  • Ich würde mit einer klar begrenzten, wiederkehrenden Aufgabe starten, dem Agenten nur Leserechte geben und Zusagen, Geld und Löschen immer an eine Freigabe binden.
Mit ChatGPT, Claude oder Perplexity weiterdenken
Inhalt7 Abschnitte

KI-Agenten sind KI-Systeme, die ein Ziel bekommen und die Schritte dorthin selbst planen und ausführen. Sie lesen Daten, nutzen Werkzeuge wie E-Mail, Kalender oder Datenbanken und entscheiden zwischendurch, was als Nächstes zu tun ist. Ein Chatbot antwortet, ein Agent handelt, und deshalb hängt sein Nutzen stark davon ab, wie klar begrenzt ist, was er tun darf.

Das Thema ist für mich keine Theorie. Meine iOS-App quik connect habe ich mit Claude Code gebaut, einem Werkzeug, das selbstständig Dateien liest, Code schreibt und Befehle ausführt. Und in quik OS, dem Workspace, den wir bauen, arbeiten KI-Assistenten wie Claude über einen rechtebasierten Zugang direkt in Boards und Wissensseiten. Ich nutze Agenten also und baue gleichzeitig die Umgebung, in der sie arbeiten.

Die Forschung zu KI-Agenten ist jung. Von den 14 begutachteten Artikeln, die ich dazu gelesen habe, behandeln viele Weltraumrecht, Kryptofinanzen oder Cybersicherheit. Vier passen genau zu der Frage, die mich im Alltag beschäftigt: Was hält einen Agenten in der Spur, und wer steht dafür gerade, wenn er sie verlässt.

Was KI-Agenten sind und was sie von Chatbots unterscheidet

Ein KI-Agent arbeitet in einer Schleife. Er versteht das Ziel, macht einen Plan, nutzt ein Werkzeug, prüft das Ergebnis und entscheidet über den nächsten Schritt. Diese Schleife läuft so lange, bis das Ziel erreicht ist oder der Agent nicht weiterkommt.

Grafik als Kreislauf, so arbeiten KI-Agenten: Ziel verstehen, Plan machen, Werkzeug nutzen und Ergebnis prüfen, danach beginnt die Schleife mit dem nächsten Schritt von vorn
Ein Agent wiederholt die Schleife, bis das Ziel erreicht ist, und jede Runde ist eine Stelle, an der etwas schiefgehen kann.

Die Werkzeuge machen den Unterschied. Damit ein Agent auf Postfach, Kalender oder Projektboard zugreifen kann, braucht er eine Verbindung dorthin. Eine verbreitete Lösung dafür beschreibe ich im Artikel zum Model Context Protocol.

Im Alltag werden drei Dinge oft verwechselt. Die Tabelle trennt sie:

Klassische Automation Chatbot KI-Agent
Was er tut Führt feste Regeln aus Antwortet im Gespräch Plant und handelt selbst
Wer den nächsten Schritt bestimmt Die Regel, die du gebaut hast Der Mensch nach der Antwort Der Agent
Beispiel Formular ausgefüllt, Kontakt angelegt Beantwortet Fragen zu Öffnungszeiten Liest Anfragen, sortiert, entwirft Antworten, legt Termine an
Typisches Risiko Bricht bei Sonderfällen ab Falsche Antwort Falsche Handlung

Die letzte Zeile ist der Kern. Ein falscher Satz im Chat ist ärgerlich. Eine falsche Handlung, etwa eine Zusage an einen Kunden oder eine gelöschte Datei, hat Folgen. Wann ein Chatbot reicht, beschreibe ich im Artikel über Chatbots im Kundenservice.

Was KI-Agenten Gründern bringen können

Ob Agenten kleinen Unternehmen helfen, wollte ich nicht nur aus eigener Erfahrung beurteilen. Noor, Abdelfattah, Salah, Abbas und Chew (2026) haben in Quality & Quantity Daten von 387 Gründern aus 413 Innovations- und Technologieprojekten im Oman ausgewertet. Sie fragen, was die Einführung agentischer KI fördert und ob sie Gründer stärkt.

Ihr Ergebnis: Mehrere Gruppen von Faktoren beeinflussen die Einführung deutlich.

  • Technik: der erkennbare Vorteil, die Passung zu bestehenden Abläufen, Sicherheit und Vertrauen.
  • Organisation: vorhandene IT, Größe des Unternehmens und verfügbares Geld.
  • Umfeld: Druck durch Wettbewerber und Partner sowie Unterstützung durch Regulierung.

Die Einführung wirkt sich laut der Studie zudem positiv auf die Handlungsfähigkeit der Gründer aus, in der Fachsprache Empowerment. Wie genau das gemessen wurde, geht aus dem Abstract nicht hervor. Zahlen zu Umsatz oder gesparter Zeit nennt es nicht.

Zwei Dinge nehme ich mit. Erstens spielen Größe, IT und Geld eine Rolle. KI-Agenten gleichen also nicht automatisch jeden Nachteil kleiner Teams aus. Zweitens stehen Sicherheit und Vertrauen bei den technischen Faktoren. Das passt zu meiner Erfahrung: Ob ein Agent eine Aufgabe kann, ist selten die schwierigste Frage. Schwieriger ist, ob man sie ihm zutraut. Die Studie stammt aus dem Oman, wo solche Werkzeuge in Gründerprojekten laut den Autoren noch neu sind. Ob sich die Ergebnisse auf Deutschland übertragen lassen, weiß ich nicht.

Kleine Teams haben dafür einen Vorteil, den ich oft sehe: weniger Freigaben, weniger Abstimmung. Ein Solo-Gründer kann einen neuen Ablauf am Montag testen und am Dienstag wieder verwerfen. Wie das bei mir mit Claude Code aussieht, steht im Artikel Claude Code für Gründer.

Wenn KI-Agenten Versprechen machen, die niemand halten kann

Die Studie, die mich am meisten zum Nachdenken gebracht hat, stammt von Selcen Ozturkcan (2026) im Journal of Responsible Technology. Sie hat 15 öffentlich dokumentierte Fälle aus den Jahren 2023 bis 2026 auf mehreren Plattformen untersucht. In 9 davon hat ein KI-System Kunden etwas zugesagt und zugleich beeinflusst, wie die Zusage erfüllt wird.

Das Problem, das sie beschreibt: Ein Agent kann mehr versprechen, als das Unternehmen geprüft hat, als seine Regeln erlauben oder als es zu halten bereit ist. Ozturkcan findet drei Mechanismen. Der Agent erzeugt selbstständig Zusagen, für die sich niemand verantwortlich fühlt. Ein Fehler zieht weitere Fehler im Ablauf nach sich. Und Vertrauen und Daten beeinflussen sich gegenseitig.

Besonders unangenehm fand ich den Begriff des algorithmischen Sündenbocks. Gemeint ist, dass Unternehmen nach einem Fehler die Verantwortung auf die scheinbare Selbstständigkeit der KI schieben. Die höchsten Kosten tragen laut der Studie diejenigen, die sich am wenigsten wehren können.

Ozturkcan nennt vier Leitplanken, die einen solchen Kreislauf eindämmen könnten. Jedem der neun Kernfälle fehlte mindestens eine davon. Die Namen der Leitplanken stammen aus der Studie, die Beispiele in der Grafik sind meine Übersetzung.

Grafik zum Vergleich von KI-Agenten nach Ozturkcan 2026: vier Leitplanken, nämlich klarer Umfang, geprüftes Wissen, ein Weg zum Menschen und eine passende Kennzahl, im Vergleich zu einem Agenten ohne diese Grenzen
In jedem der neun untersuchten Kernfälle fehlte mindestens eine dieser vier Leitplanken.

Welche Unternehmen betroffen waren, nennt das Abstract nicht. Die Logik gilt für mich aber auch im Kleinen. Angenommen, eine Webdesignerin lässt einen Agenten ihre Anfragen beantworten. Ohne Grenzen sagt er einem Interessenten vielleicht einen Rabatt oder einen Termin zu, den sie nie geben wollte. Mit den vier Leitplanken entwirft er Antworten aus ihrer Preisliste, und alles, was nach Zusage klingt, landet bei ihr. Warum Sprachmodelle Fakten erfinden können, erkläre ich im Artikel über KI-Halluzinationen.

KI-Agenten sicher einsetzen: Grenzen ins System statt in den Prompt

Wie solche Grenzen gebaut sein sollten, zeigt eine ungewöhnliche Studie. Sara Husk (2026) hat in AI and Ethics ein vorab registriertes Feldexperiment veröffentlicht. Zwei Agenten liefen 70 Tage lang, vom 16. März bis 24. Mai 2026, auf Moltbook, einer öffentlichen Plattform, auf der KI-Agenten miteinander interagieren. Sie waren dabei gezielten Angriffen ausgesetzt, unter anderem Prompt Injection. Das sind versteckte Anweisungen in Texten, die einen Agenten dazu bringen sollen, seine Regeln zu brechen.

Das zentrale Ergebnis ist eine Lehre aus Fehlern. Grenzen, die der Agent über sein eigenes Denken einhalten sollte, versagten unter anhaltendem Druck auf erkennbare Weise. Grenzen, die technisch an der Stelle der Ausführung erzwungen wurden, hielten unter denselben Bedingungen. Die Autorin empfiehlt deshalb, wichtige Grenzen in die Struktur zu legen und nicht in die Überlegungen des Agenten.

Zur Einordnung: Eine einzige Person hat die Ergebnisse bewertet, deshalb stuft die Autorin sie selbst als vorläufig ein. Sie berichtet auch negative Ergebnisse und einen Vorfall, bei dem spät im Experiment Zugangsdaten offengelegt wurden. Gerade diese Offenheit macht die Studie für mich glaubwürdig.

Übersetzt heißt das: Eine Anweisung wie „Versende niemals E-Mails ohne Freigabe“ im Prompt ist ein Wunsch. Ein Agent, der technisch keine Senderechte hat, kann keine E-Mail versenden. Genau so denken wir bei quik OS. Der KI-Zugang ist rechtebasiert, der Assistent kann nur, was die Rechte erlauben. Die Grenze steckt im System und hängt nicht davon ab, ob die KI sich gerade an ihre Anweisungen erinnert.

Die Verantwortung bleibt bei dir

Bleibt die Frage, wer verantwortlich ist, wenn trotzdem etwas schiefgeht. Kennedy Chun Yin Kong (2026) widerspricht in AI and Ethics einer verbreiteten These. Sie lautet: Wer einen selbstständigen Agenten einsetzt, kann dessen einzelne Handlungen weder beabsichtigen noch vorhersehen, also ist niemand voll verantwortlich.

Kong nennt diesen Schluss eine Delegations-Illusion. Wer weit weg von einer Handlung ist, wird dadurch nicht weniger rechenschaftspflichtig. Die Verantwortung ergibt sich aus der Entscheidung, den Agenten einzusetzen, und aus der Kontrolle über diesen Einsatz. Entscheidend ist dabei, ob sich die Art möglicher Schäden vorhersehen ließ, auch wenn die einzelne Handlung es nicht war. Die Arbeit ist eine philosophische Analyse und keine Studie mit Daten. Rechtliche Fragen beantwortet sie nicht.

Einen Agenten kannst du beauftragen. Die Verantwortung für das, was er tut, gibst du dabei nicht ab.

Für mich passt das zu einem meiner Prinzipien: festes Ergebnis statt Stundenzettel. Wenn ich einem Kunden ein Ergebnis zusage, ist es egal, ob ich es selbst gebaut habe, ein Werkzeug oder ein Agent. Der Kunde verlässt sich auf mich. Dazu kommt ein Learning aus quik connect: KI ändert das Tempo, nicht das Verstehen. Ein Agent macht dich schneller, aber er nimmt dir nicht ab, zu wissen, was er tut. Wie leicht man einem System zu sehr vertraut, beschreibe ich im Artikel über Automation Bias.

So startest du mit deinem ersten KI-Agenten

Aus den Studien und meinen eigenen Projekten ergibt sich für mich eine Reihenfolge:

  1. Eine wiederkehrende Aufgabe wählen. Was ich zweimal von Hand mache, wird beim dritten Mal automatisiert. Ein Agent ist der richtige Kandidat für Aufgaben, die regelmäßig kommen, aber zu unterschiedlich für eine feste Regel sind.
  2. Den Ablauf aufschreiben. Ein Agent braucht deinen Standard als Vorlage. Meinen Prozess für Lead-Magneten habe ich zum Beispiel in einen Claude Skill mit acht Phasen gegossen. Ohne diese Vorarbeit hätte die KI keinen Maßstab.
  3. Mit Leserechten beginnen. Lass den Agenten zuerst nur lesen und Entwürfe schreiben. Abschicken tust du selbst.
  4. Grenzen technisch setzen. Gib nur die Rechte frei, die die Aufgabe braucht. Was im Prompt steht, ist eine Bitte. Was in den Rechten steht, gilt.
  5. Zusagen, Geld und Löschen an eine Freigabe binden. Hier liegen die Fehler, die Ozturkcan beschreibt.
  6. An der richtigen Zahl messen. Miss, ob die Aufgabe richtig erledigt wurde. Die bloße Menge erledigter Fälle verleitet zu schnellen Zusagen.

Wenn eine Aufgabe auch mit fester Regel funktioniert, ist eine klassische Automation oft die robustere Wahl. Wie ich die als kleines Team angehe, steht im Artikel über Marketing Automation.

Selbstcheck, ist dein KI-Agent gut begrenzt

Denk an einen Agenten, den du nutzt oder einsetzen willst, und hake ab, was zutrifft.

Selbstcheck, ist dein KI-Agent gut begrenzt

0 von 8

Offene Flanke Dein Agent hat vermutlich mehr Spielraum, als dir lieb ist. Fang damit an, seine Rechte auf das Nötigste zu begrenzen und Zusagen an eine Freigabe zu binden.

Fazit

KI-Agenten können kleinen Teams Arbeit abnehmen, für die früher eine zusätzliche Person nötig war. Die Studien zeigen aber, wo es kippt: wenn Agenten Zusagen machen, die niemand geprüft hat, wenn ihre Grenzen nur im Prompt stehen und wenn sich nach einem Fehler niemand verantwortlich fühlt. Die Forschung dazu ist jung, oft konzeptionell und selten an kleinen Unternehmen gemacht. Ich lese sie deshalb als Warnschilder, nicht als Bauanleitung.

Mein Vorschlag: Such dir diese Woche eine wiederkehrende Aufgabe, schreib den Ablauf auf und lass einen Agenten zunächst nur Entwürfe dafür machen. Was ich mit Agenten in meinen eigenen Projekten ausprobiere, teile ich in den Unternehmer Thoughts.

Mit KI weiterdenken

Frag deine KI zu diesem Artikel

Öffnet den Dienst in einem neuen Tab. Erst mit dem Klick geht der Prompt an den Anbieter, vorher wird nichts übertragen.

Häufige Fragen

Was ist ein KI-Agent?

Ein KI-Agent ist ein KI-System, das ein Ziel bekommt und die Schritte dorthin selbst plant und ausführt. Er nutzt dafür Werkzeuge wie E-Mail, Kalender, Dateien oder Datenbanken und entscheidet zwischendurch, was als Nächstes zu tun ist.

Was ist der Unterschied zwischen einem KI-Agenten und einem Chatbot?

Ein Chatbot beantwortet Fragen im Gespräch, gehandelt wird anschließend von einem Menschen. Ein KI-Agent führt selbst Aktionen aus, etwa eine E-Mail senden, einen Termin anlegen oder Daten ändern. Dadurch steigt der Nutzen und zugleich das Risiko von Fehlern.

Welche Aufgaben eignen sich für KI-Agenten?

Am besten eignen sich wiederkehrende Aufgaben mit klarem Umfang, etwa Anfragen vorsortieren, Entwürfe für Antworten schreiben, Daten zwischen Tools übertragen oder Berichte zusammenstellen. Aufgaben, bei denen Zusagen gemacht oder Geld bewegt wird, würde ich nur mit menschlicher Freigabe übertragen.

Wer haftet, wenn ein KI-Agent einen Fehler macht?

Die rechtliche Frage hängt vom Einzelfall und vom Land ab, dazu kann ich keine Rechtsberatung geben. Aus ethischer Sicht argumentiert eine aktuelle Analyse, dass die Verantwortung beim Unternehmen bleibt, das den Agenten einsetzt, weil es über den Einsatz und dessen Grenzen entschieden hat.

Quellen4 Quellen
  1. Husk (2026): Engineering accountability into autonomous AI agents: a 70-day pre-registered field experiment under live adversarial conditions. AI and Ethics (öffnet in neuem Tab)
  2. Ozturkcan (2026): The algorithmic scapegoat: Accountability evasion and the governance of autonomous promise–fulfilment misalignment in agentic AI. Journal of Responsible Technology (öffnet in neuem Tab)
  3. Kong (2026): The delegation illusion: why deploying autonomous AI agents does not diminish principal responsibility. AI and Ethics (öffnet in neuem Tab)
  4. Noor, Abdelfattah, Salah et al. (2026): How agentic AI reshapes the next generation of entrepreneurs: a technology–organization–environment framework perspective. Quality & Quantity (öffnet in neuem Tab)

Passt dazu

Alle Artikel