KI-Agenten: Was sie können und warum ihre Grenzen ins System gehören
KI-Agenten erklärt: was sie von Chatbots unterscheidet, was Studien über Fehler und Verantwortung zeigen und wie du als kleines Team sicher damit startest.

Kurz gesagt
- KI-Agenten bekommen ein Ziel, planen die Schritte selbst und nutzen dafür Werkzeuge wie E-Mail, Kalender oder Datenbanken.
- In einem 70-tägigen Feldexperiment hielten Grenzen, die technisch beim Ausführen erzwungen wurden, während Regeln, die der Agent selbst befolgen sollte, unter Druck versagten.
- Eine Analyse von 15 dokumentierten Fällen zeigt, dass Agenten, die Kunden etwas zusagen, ohne klare Leitplanken Versprechen machen, die das Unternehmen nicht halten kann.
- Wer einen Agenten einsetzt, bleibt laut einer philosophischen Analyse für dessen Handeln verantwortlich, auch wenn er die einzelne Aktion nicht vorhergesehen hat.
- Ich würde mit einer klar begrenzten, wiederkehrenden Aufgabe starten, dem Agenten nur Leserechte geben und Zusagen, Geld und Löschen immer an eine Freigabe binden.
Inhalt7 Abschnitte
- Was KI-Agenten sind und was sie von Chatbots unterscheidet
- Was KI-Agenten Gründern bringen können
- Wenn KI-Agenten Versprechen machen, die niemand halten kann
- KI-Agenten sicher einsetzen: Grenzen ins System statt in den Prompt
- Die Verantwortung bleibt bei dir
- So startest du mit deinem ersten KI-Agenten
- Fazit
KI-Agenten sind KI-Systeme, die ein Ziel bekommen und die Schritte dorthin selbst planen und ausführen. Sie lesen Daten, nutzen Werkzeuge wie E-Mail, Kalender oder Datenbanken und entscheiden zwischendurch, was als Nächstes zu tun ist. Ein Chatbot antwortet, ein Agent handelt, und deshalb hängt sein Nutzen stark davon ab, wie klar begrenzt ist, was er tun darf.
Das Thema ist für mich keine Theorie. Meine iOS-App quik connect habe ich mit Claude Code gebaut, einem Werkzeug, das selbstständig Dateien liest, Code schreibt und Befehle ausführt. Und in quik OS, dem Workspace, den wir bauen, arbeiten KI-Assistenten wie Claude über einen rechtebasierten Zugang direkt in Boards und Wissensseiten. Ich nutze Agenten also und baue gleichzeitig die Umgebung, in der sie arbeiten.
Die Forschung zu KI-Agenten ist jung. Von den 14 begutachteten Artikeln, die ich dazu gelesen habe, behandeln viele Weltraumrecht, Kryptofinanzen oder Cybersicherheit. Vier passen genau zu der Frage, die mich im Alltag beschäftigt: Was hält einen Agenten in der Spur, und wer steht dafür gerade, wenn er sie verlässt.
Was KI-Agenten sind und was sie von Chatbots unterscheidet
Ein KI-Agent arbeitet in einer Schleife. Er versteht das Ziel, macht einen Plan, nutzt ein Werkzeug, prüft das Ergebnis und entscheidet über den nächsten Schritt. Diese Schleife läuft so lange, bis das Ziel erreicht ist oder der Agent nicht weiterkommt.

Ziel verstehen Der Agent bekommt eine Aufgabe in normaler Sprache, etwa: Sortiere die neuen Anfragen und entwirf Antworten.
Plan machen Er zerlegt die Aufgabe in Schritte und entscheidet, welche Werkzeuge er dafür braucht.
Werkzeug nutzen Er liest das Postfach, sucht im Kalender oder schreibt in eine Datenbank. Hier entsteht die Wirkung und hier entstehen die meisten Risiken.
Ergebnis prüfen Er schaut, ob der Schritt geklappt hat, und entscheidet über den nächsten. Ist das Ziel erreicht, hört er auf.
Die Werkzeuge machen den Unterschied. Damit ein Agent auf Postfach, Kalender oder Projektboard zugreifen kann, braucht er eine Verbindung dorthin. Eine verbreitete Lösung dafür beschreibe ich im Artikel zum Model Context Protocol.
Im Alltag werden drei Dinge oft verwechselt. Die Tabelle trennt sie:
| Klassische Automation | Chatbot | KI-Agent | |
|---|---|---|---|
| Was er tut | Führt feste Regeln aus | Antwortet im Gespräch | Plant und handelt selbst |
| Wer den nächsten Schritt bestimmt | Die Regel, die du gebaut hast | Der Mensch nach der Antwort | Der Agent |
| Beispiel | Formular ausgefüllt, Kontakt angelegt | Beantwortet Fragen zu Öffnungszeiten | Liest Anfragen, sortiert, entwirft Antworten, legt Termine an |
| Typisches Risiko | Bricht bei Sonderfällen ab | Falsche Antwort | Falsche Handlung |
Die letzte Zeile ist der Kern. Ein falscher Satz im Chat ist ärgerlich. Eine falsche Handlung, etwa eine Zusage an einen Kunden oder eine gelöschte Datei, hat Folgen. Wann ein Chatbot reicht, beschreibe ich im Artikel über Chatbots im Kundenservice.
Was KI-Agenten Gründern bringen können
Ob Agenten kleinen Unternehmen helfen, wollte ich nicht nur aus eigener Erfahrung beurteilen. Noor, Abdelfattah, Salah, Abbas und Chew (2026) haben in Quality & Quantity Daten von 387 Gründern aus 413 Innovations- und Technologieprojekten im Oman ausgewertet. Sie fragen, was die Einführung agentischer KI fördert und ob sie Gründer stärkt.
Ihr Ergebnis: Mehrere Gruppen von Faktoren beeinflussen die Einführung deutlich.
- Technik: der erkennbare Vorteil, die Passung zu bestehenden Abläufen, Sicherheit und Vertrauen.
- Organisation: vorhandene IT, Größe des Unternehmens und verfügbares Geld.
- Umfeld: Druck durch Wettbewerber und Partner sowie Unterstützung durch Regulierung.
Die Einführung wirkt sich laut der Studie zudem positiv auf die Handlungsfähigkeit der Gründer aus, in der Fachsprache Empowerment. Wie genau das gemessen wurde, geht aus dem Abstract nicht hervor. Zahlen zu Umsatz oder gesparter Zeit nennt es nicht.
Zwei Dinge nehme ich mit. Erstens spielen Größe, IT und Geld eine Rolle. KI-Agenten gleichen also nicht automatisch jeden Nachteil kleiner Teams aus. Zweitens stehen Sicherheit und Vertrauen bei den technischen Faktoren. Das passt zu meiner Erfahrung: Ob ein Agent eine Aufgabe kann, ist selten die schwierigste Frage. Schwieriger ist, ob man sie ihm zutraut. Die Studie stammt aus dem Oman, wo solche Werkzeuge in Gründerprojekten laut den Autoren noch neu sind. Ob sich die Ergebnisse auf Deutschland übertragen lassen, weiß ich nicht.
Kleine Teams haben dafür einen Vorteil, den ich oft sehe: weniger Freigaben, weniger Abstimmung. Ein Solo-Gründer kann einen neuen Ablauf am Montag testen und am Dienstag wieder verwerfen. Wie das bei mir mit Claude Code aussieht, steht im Artikel Claude Code für Gründer.
Wenn KI-Agenten Versprechen machen, die niemand halten kann
Die Studie, die mich am meisten zum Nachdenken gebracht hat, stammt von Selcen Ozturkcan (2026) im Journal of Responsible Technology. Sie hat 15 öffentlich dokumentierte Fälle aus den Jahren 2023 bis 2026 auf mehreren Plattformen untersucht. In 9 davon hat ein KI-System Kunden etwas zugesagt und zugleich beeinflusst, wie die Zusage erfüllt wird.
Das Problem, das sie beschreibt: Ein Agent kann mehr versprechen, als das Unternehmen geprüft hat, als seine Regeln erlauben oder als es zu halten bereit ist. Ozturkcan findet drei Mechanismen. Der Agent erzeugt selbstständig Zusagen, für die sich niemand verantwortlich fühlt. Ein Fehler zieht weitere Fehler im Ablauf nach sich. Und Vertrauen und Daten beeinflussen sich gegenseitig.
Besonders unangenehm fand ich den Begriff des algorithmischen Sündenbocks. Gemeint ist, dass Unternehmen nach einem Fehler die Verantwortung auf die scheinbare Selbstständigkeit der KI schieben. Die höchsten Kosten tragen laut der Studie diejenigen, die sich am wenigsten wehren können.
Ozturkcan nennt vier Leitplanken, die einen solchen Kreislauf eindämmen könnten. Jedem der neun Kernfälle fehlte mindestens eine davon. Die Namen der Leitplanken stammen aus der Studie, die Beispiele in der Grafik sind meine Übersetzung.

Umfang Der Agent weiß, welche Themen er behandeln und welche Zusagen er machen darf. Alles andere gibt er ab.
Wissen Preise, Fristen und Bedingungen kommen aus geprüften Unterlagen und nicht aus dem allgemeinen Wissen des Modells.
Eskalation Für Sonderfälle und Beschwerden gibt es einen festen Weg zu einem Menschen, der entscheidet.
Kennzahl Der Agent wird an einer Zahl gemessen, die zum eigentlichen Ziel passt. Wer nur abgeschlossene Fälle zählt, belohnt schnelle Zusagen.
Welche Unternehmen betroffen waren, nennt das Abstract nicht. Die Logik gilt für mich aber auch im Kleinen. Angenommen, eine Webdesignerin lässt einen Agenten ihre Anfragen beantworten. Ohne Grenzen sagt er einem Interessenten vielleicht einen Rabatt oder einen Termin zu, den sie nie geben wollte. Mit den vier Leitplanken entwirft er Antworten aus ihrer Preisliste, und alles, was nach Zusage klingt, landet bei ihr. Warum Sprachmodelle Fakten erfinden können, erkläre ich im Artikel über KI-Halluzinationen.
KI-Agenten sicher einsetzen: Grenzen ins System statt in den Prompt
Wie solche Grenzen gebaut sein sollten, zeigt eine ungewöhnliche Studie. Sara Husk (2026) hat in AI and Ethics ein vorab registriertes Feldexperiment veröffentlicht. Zwei Agenten liefen 70 Tage lang, vom 16. März bis 24. Mai 2026, auf Moltbook, einer öffentlichen Plattform, auf der KI-Agenten miteinander interagieren. Sie waren dabei gezielten Angriffen ausgesetzt, unter anderem Prompt Injection. Das sind versteckte Anweisungen in Texten, die einen Agenten dazu bringen sollen, seine Regeln zu brechen.
Das zentrale Ergebnis ist eine Lehre aus Fehlern. Grenzen, die der Agent über sein eigenes Denken einhalten sollte, versagten unter anhaltendem Druck auf erkennbare Weise. Grenzen, die technisch an der Stelle der Ausführung erzwungen wurden, hielten unter denselben Bedingungen. Die Autorin empfiehlt deshalb, wichtige Grenzen in die Struktur zu legen und nicht in die Überlegungen des Agenten.
Zur Einordnung: Eine einzige Person hat die Ergebnisse bewertet, deshalb stuft die Autorin sie selbst als vorläufig ein. Sie berichtet auch negative Ergebnisse und einen Vorfall, bei dem spät im Experiment Zugangsdaten offengelegt wurden. Gerade diese Offenheit macht die Studie für mich glaubwürdig.
Übersetzt heißt das: Eine Anweisung wie „Versende niemals E-Mails ohne Freigabe“ im Prompt ist ein Wunsch. Ein Agent, der technisch keine Senderechte hat, kann keine E-Mail versenden. Genau so denken wir bei quik OS. Der KI-Zugang ist rechtebasiert, der Assistent kann nur, was die Rechte erlauben. Die Grenze steckt im System und hängt nicht davon ab, ob die KI sich gerade an ihre Anweisungen erinnert.
Die Verantwortung bleibt bei dir
Bleibt die Frage, wer verantwortlich ist, wenn trotzdem etwas schiefgeht. Kennedy Chun Yin Kong (2026) widerspricht in AI and Ethics einer verbreiteten These. Sie lautet: Wer einen selbstständigen Agenten einsetzt, kann dessen einzelne Handlungen weder beabsichtigen noch vorhersehen, also ist niemand voll verantwortlich.
Kong nennt diesen Schluss eine Delegations-Illusion. Wer weit weg von einer Handlung ist, wird dadurch nicht weniger rechenschaftspflichtig. Die Verantwortung ergibt sich aus der Entscheidung, den Agenten einzusetzen, und aus der Kontrolle über diesen Einsatz. Entscheidend ist dabei, ob sich die Art möglicher Schäden vorhersehen ließ, auch wenn die einzelne Handlung es nicht war. Die Arbeit ist eine philosophische Analyse und keine Studie mit Daten. Rechtliche Fragen beantwortet sie nicht.
Einen Agenten kannst du beauftragen. Die Verantwortung für das, was er tut, gibst du dabei nicht ab.
Für mich passt das zu einem meiner Prinzipien: festes Ergebnis statt Stundenzettel. Wenn ich einem Kunden ein Ergebnis zusage, ist es egal, ob ich es selbst gebaut habe, ein Werkzeug oder ein Agent. Der Kunde verlässt sich auf mich. Dazu kommt ein Learning aus quik connect: KI ändert das Tempo, nicht das Verstehen. Ein Agent macht dich schneller, aber er nimmt dir nicht ab, zu wissen, was er tut. Wie leicht man einem System zu sehr vertraut, beschreibe ich im Artikel über Automation Bias.
So startest du mit deinem ersten KI-Agenten
Aus den Studien und meinen eigenen Projekten ergibt sich für mich eine Reihenfolge:
- Eine wiederkehrende Aufgabe wählen. Was ich zweimal von Hand mache, wird beim dritten Mal automatisiert. Ein Agent ist der richtige Kandidat für Aufgaben, die regelmäßig kommen, aber zu unterschiedlich für eine feste Regel sind.
- Den Ablauf aufschreiben. Ein Agent braucht deinen Standard als Vorlage. Meinen Prozess für Lead-Magneten habe ich zum Beispiel in einen Claude Skill mit acht Phasen gegossen. Ohne diese Vorarbeit hätte die KI keinen Maßstab.
- Mit Leserechten beginnen. Lass den Agenten zuerst nur lesen und Entwürfe schreiben. Abschicken tust du selbst.
- Grenzen technisch setzen. Gib nur die Rechte frei, die die Aufgabe braucht. Was im Prompt steht, ist eine Bitte. Was in den Rechten steht, gilt.
- Zusagen, Geld und Löschen an eine Freigabe binden. Hier liegen die Fehler, die Ozturkcan beschreibt.
- An der richtigen Zahl messen. Miss, ob die Aufgabe richtig erledigt wurde. Die bloße Menge erledigter Fälle verleitet zu schnellen Zusagen.
Wenn eine Aufgabe auch mit fester Regel funktioniert, ist eine klassische Automation oft die robustere Wahl. Wie ich die als kleines Team angehe, steht im Artikel über Marketing Automation.
Fazit
KI-Agenten können kleinen Teams Arbeit abnehmen, für die früher eine zusätzliche Person nötig war. Die Studien zeigen aber, wo es kippt: wenn Agenten Zusagen machen, die niemand geprüft hat, wenn ihre Grenzen nur im Prompt stehen und wenn sich nach einem Fehler niemand verantwortlich fühlt. Die Forschung dazu ist jung, oft konzeptionell und selten an kleinen Unternehmen gemacht. Ich lese sie deshalb als Warnschilder, nicht als Bauanleitung.
Mein Vorschlag: Such dir diese Woche eine wiederkehrende Aufgabe, schreib den Ablauf auf und lass einen Agenten zunächst nur Entwürfe dafür machen. Was ich mit Agenten in meinen eigenen Projekten ausprobiere, teile ich in den Unternehmer Thoughts.
Mit KI weiterdenken
Frag deine KI zu diesem Artikel
Öffnet den Dienst in einem neuen Tab. Erst mit dem Klick geht der Prompt an den Anbieter, vorher wird nichts übertragen.
Häufige Fragen
Was ist ein KI-Agent?
Ein KI-Agent ist ein KI-System, das ein Ziel bekommt und die Schritte dorthin selbst plant und ausführt. Er nutzt dafür Werkzeuge wie E-Mail, Kalender, Dateien oder Datenbanken und entscheidet zwischendurch, was als Nächstes zu tun ist.
Was ist der Unterschied zwischen einem KI-Agenten und einem Chatbot?
Ein Chatbot beantwortet Fragen im Gespräch, gehandelt wird anschließend von einem Menschen. Ein KI-Agent führt selbst Aktionen aus, etwa eine E-Mail senden, einen Termin anlegen oder Daten ändern. Dadurch steigt der Nutzen und zugleich das Risiko von Fehlern.
Welche Aufgaben eignen sich für KI-Agenten?
Am besten eignen sich wiederkehrende Aufgaben mit klarem Umfang, etwa Anfragen vorsortieren, Entwürfe für Antworten schreiben, Daten zwischen Tools übertragen oder Berichte zusammenstellen. Aufgaben, bei denen Zusagen gemacht oder Geld bewegt wird, würde ich nur mit menschlicher Freigabe übertragen.
Wer haftet, wenn ein KI-Agent einen Fehler macht?
Die rechtliche Frage hängt vom Einzelfall und vom Land ab, dazu kann ich keine Rechtsberatung geben. Aus ethischer Sicht argumentiert eine aktuelle Analyse, dass die Verantwortung beim Unternehmen bleibt, das den Agenten einsetzt, weil es über den Einsatz und dessen Grenzen entschieden hat.
Quellen4 Quellen
- Husk (2026): Engineering accountability into autonomous AI agents: a 70-day pre-registered field experiment under live adversarial conditions. AI and Ethics (öffnet in neuem Tab)
- Ozturkcan (2026): The algorithmic scapegoat: Accountability evasion and the governance of autonomous promise–fulfilment misalignment in agentic AI. Journal of Responsible Technology (öffnet in neuem Tab)
- Kong (2026): The delegation illusion: why deploying autonomous AI agents does not diminish principal responsibility. AI and Ethics (öffnet in neuem Tab)
- Noor, Abdelfattah, Salah et al. (2026): How agentic AI reshapes the next generation of entrepreneurs: a technology–organization–environment framework perspective. Quality & Quantity (öffnet in neuem Tab)
Woran ich baue
- Boutique für digitales WachstumquikWebsites, Sichtbarkeit und Messung als ein System
- Marktplatz und Studio für AI Website Templatesai-website.comWebsites, die deine KI weiterbaut
- KI-fähiger Workspace aus Deutschlandquik OSEin Workspace, in dem KI-Assistenten mitarbeiten
Erstgespräch mit mir buchenUnternehmer Thoughts lesenAlle Projekte