KI-Agenten im Unternehmen: Wo sie sich lohnen und wo nicht

KI-Agenten sind 2026 in deutschen Unternehmen angekommen. Laut Bitkom setzen 11 % der Unternehmen, die sich mit KI beschäftigen, bereits Agenten ein, weitere 29 % planen es. Gleichzeitig rechnet Gartner damit, dass über 40 % der Agenten-Projekte bis Ende 2027 eingestellt werden. Beides stimmt. Der Unterschied liegt fast immer in der Auswahl des Einsatzfalls und im Betrieb, selten im Modell.

Dieser Artikel ist für Verantwortliche aus Betrieb, IT und Marketing, die entscheiden müssen, ob und wo ein Agent Arbeit abnimmt. Er erklärt die Begriffe, zeigt die Fehler, an denen Projekte scheitern, und fasst den Rechtsstand nach dem Digital Omnibus zusammen.

Was ein KI-Agent ist und was nicht

Anthropic unterscheidet in seinem Leitfaden „Building effective agents“ zwei Bauarten. In einem Workflow steuert festgelegter Code, wann das Sprachmodell welches Werkzeug nutzt. In einem Agenten entscheidet das Modell selbst über seine Schritte und Werkzeuge. OpenAI formuliert es knapper: Agenten erledigen Aufgaben eigenständig in Ihrem Auftrag. Ein Chatbot, der nur antwortet, fällt ausdrücklich nicht darunter.

Bitkom bringt es für den deutschen Markt auf einen Satz: Ein Chatbot beantwortet Fragen, ein Agent holt Angebote ein, vergleicht Preise und arbeitet Entscheidungsoptionen aus.

Die Tabelle zeigt den wichtigsten Punkt gleich mit: Ein Agent ist nicht immer die bessere Wahl. Anthropic schreibt, agentische Systeme tauschen Latenz und Kosten gegen bessere Ergebnisse, und empfiehlt, die einfachste Lösung zu suchen. Das kann heißen, gar keinen Agenten zu bauen.

Wie weit deutsche Unternehmen sind

Die amtliche Statistik zeichnet ein vorsichtigeres Bild. Laut Destatis nutzten 2025 insgesamt 26 % der Unternehmen ab 10 Beschäftigten KI, bei Großunternehmen ab 250 Beschäftigten 57 %. Die Zahlen von Bitkom und Destatis messen verschiedene Gruppen und lassen sich nicht direkt vergleichen. Die Richtung ist bei beiden gleich.

Interessanter als die Quote sind die Hürden. Unternehmen, die KI nutzen, nennen bei Bitkom Datenschutz (66 %), rechtliche Unsicherheit (56 %) und schwer kalkulierbare Kosten (54 %). Genau diese drei Punkte entscheiden, ob ein Agent nach dem Pilot in Betrieb geht.

Warum Agenten-Projekte scheitern

Gartner nennt als Gründe für die erwarteten Abbrüche steigende Kosten, unklaren Nutzen und unzureichende Risikokontrollen. Dazu kommt ein Marktproblem: Nach Gartners Schätzung sind von den Tausenden Anbietern, die „agentic AI“ verkaufen, nur etwa 130 echt. Der Rest betreibt „agent washing“ und nennt bestehende Chatbots oder RPA um.

Vier Fehler tauchen in den Leitfäden der Modellanbieter und in den Gartner-Analysen immer wieder auf:

1. Der Prozess ist zu offen. „Kümmere dich um den Kundenservice“ ist keine Aufgabe für einen Agenten. „Ordne eingehende Schadenmeldungen zu, prüfe die Vollständigkeit und lege ein Ticket an“ schon.
2. Es gibt keine Erfolgsmessung. Ohne eine Sammlung echter Testfälle weiß niemand, ob die neue Version besser oder schlechter ist. Fehler summieren sich über mehrere Schritte, darauf weist auch Anthropic hin.
3. Der Agent darf zu viel. Schreibrechte auf alle Systeme sind bequem im Pilot und gefährlich im Betrieb. Jede Werkzeug-Schnittstelle braucht klare Rechte und Grenzen.
4. Niemand hat die Kosten im Blick. Ein Agent, der in einer Schleife hängt, ruft das Modell immer wieder auf. Ohne Abbruchbedingungen und Kostenmessung pro Vorgang fällt das erst auf der Rechnung auf.

Gartner hat im September 2026 einen weiteren Punkt ergänzt: Bis 2028 werden 70 % der Unternehmen Agenten aufgeben, die ein Anbieter für sie gebaut hat, weil die Kosten steigen und sie das System nicht selbst weiterentwickeln können. Klären Sie deshalb vor Projektstart, wem Code, Prompts und Testfälle gehören und wer das System später betreibt.

So sieht ein beherrschbarer Agent aus

Ein Agent im Betrieb ist eine Schleife: Er liest die Aufgabe, plant, ruft ein Werkzeug auf, prüft das Ergebnis und entscheidet über den nächsten Schritt. Die wichtigste Designentscheidung ist, an welcher Stelle ein Mensch freigibt.

OpenAI nennt in seinem Leitfaden zwei Auslöser für menschliche Eingriffe: wenn der Agent eine Grenze an Fehlversuchen überschreitet und wenn eine Aktion riskant, nicht umkehrbar oder folgenreich ist, etwa eine Bestellung stornieren, eine große Erstattung freigeben oder eine Zahlung auslösen. Anthropic empfiehlt zusätzlich harte Abbruchbedingungen wie eine maximale Zahl an Schritten und Tests in einer abgeschotteten Umgebung, bevor ein Agent auf echte Systeme zugreift.

Zur Anbindung der Systeme hat sich das Model Context Protocol (MCP) etabliert, ein offener Standard, den Anthropic im November 2024 veröffentlicht hat. Datenquellen werden über MCP-Server angebunden, die KI-Anwendung ist der Client. Das ersetzt viele Einzelintegrationen durch eine Schnittstelle. An der Rechtefrage ändert MCP nichts: Jeder Server sollte nur die Aktionen anbieten, die der Agent wirklich braucht.

Rechtsrahmen: AI Act, Digital Omnibus und DSGVO

Der EU AI Act (Verordnung (EU) 2024/1689) gilt seit 1. August 2024 und wird in Stufen wirksam. Für die meisten Agenten im Unternehmen sind drei Punkte relevant:

• KI-Kompetenz (Art. 4): gilt seit 2. Februar 2025. Seit dem Digital Omnibus müssen Anbieter und Betreiber Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Niveau müssen sie nicht garantieren. Dokumentieren Sie Schulungen und Einweisungen trotzdem.
• Hochrisiko-Anwendungen: Agenten, die etwa über Bewerbungen oder Kredite mitentscheiden, fallen in der Regel unter Anhang III. Der Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) hat diese Pflichten vom 2. August 2026 auf den 2. Dezember 2027 verschoben.
• Transparenz (Art. 50): Wer mit einem KI-System interagiert, muss das erkennen können. Diese Pflichten gelten weiter ab 2. August 2026.

Dazu kommt Art. 22 DSGVO. Betroffene haben das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Für Agenten heißt das: Entscheidungen über Verträge, Leistungen oder Kündigungen bereitet der Agent vor, ein Mensch trifft sie. Das ist auch der sicherere Weg im Betrieb.

Wer personenbezogene Daten verarbeitet, sollte außerdem wissen, wo das Modell läuft. Bei FRUB AI laufen KI-Aufrufe über EU-Endpunkte und Daten bleiben in der EU. Mehr dazu auf unserer Seite zur Sicherheit. Dieser Artikel ist keine Rechtsberatung.

Checkliste: Ist dieser Prozess ein guter Kandidat?

• Der Prozess kostet heute messbar Zeit, z. B. mehrere Stunden pro Woche und Team.
• Die Eingaben sind unstrukturiert, aber die Ergebnisse sind klar definiert.
• Sie haben 30 bis 50 echte Fälle, an denen Sie das Ergebnis prüfen können.
• Die riskanten Aktionen lassen sich benennen und hinter eine Freigabe legen.
• Die nötigen Systeme haben Schnittstellen oder lassen sich lesend anbinden.
• Es ist klar, wer den Agenten nach dem Start betreibt und weiterentwickelt.

Treffen vier oder mehr Punkte zu, lohnt sich ein Pilot. Treffen weniger zu, ist ein einfacher KI-Workflow oder klassische Automatisierung oft die bessere und günstigere Lösung.

Fazit

KI-Agenten lohnen sich dort, wo Menschen heute viele ähnliche, aber nie gleiche Vorgänge über mehrere Systeme hinweg bearbeiten. Sie scheitern, wenn die Aufgabe zu offen ist, niemand misst und der Agent mehr darf als nötig. Wer klein anfängt, Freigaben einplant und Kosten pro Vorgang misst, hat gute Chancen, nicht zu den 40 % zu gehören.

FRUB AI baut und betreibt KI-Agenten für Unternehmen und Prozessautomatisierung, mit Daten in der EU und klarer Übergabe. Wenn Sie einen konkreten Prozess im Kopf haben, sprechen Sie mit uns.