KI-Agenten sind in Betrieb. Wer ist verantwortlich, wenn einer von ihnen ausfällt?
Geschrieben von MAI BLOG PRO
Mit KI erstellt
Zusammenfassung für Führungskräfte
KI-Agenten sind nicht mehr nur ein Proof of Concept. Sie treffen bereits Entscheidungen, führen Aufgaben aus und sprechen mit Endkunden — ohne menschliche Aufsicht in Echtzeit. Das verändert, was eine Agentur verkauft und welches Risiko sie übernimmt. Dieser Artikel zeigt, warum "einen KI-Agenten implementieren" zum Synonym für "operative Verantwortung übernehmen" geworden ist, und was dies von den Dienstleistern verlangt.
Inhaltsverzeichnis
- Das Symptom: alle wollen einen Agenten, wenige fragen, wer für ihn verantwortlich ist
- Zwei Zahlen, die nicht in derselben Woche erscheinen sollten
- KI-Agent ist kein Feature. Er ist ein Mitarbeiter ohne Arbeitsvertrag.
- Was ändert sich im Betrieb, wenn der Agent allein entscheidet
- Tabela: Risiken, die niemand in das kommerzielle Angebot aufnimmt
- Governance-Checkliste vor dem Einsatz eines Agenten in der Produktion
- Die Rolle der Agentur: Autonomie zu verkaufen heißt, Rechenschaftspflicht zu verkaufen
- Wie man das bepreist, ohne das eigene Risiko zu unterschätzen
- Häufig gestellte Fragen
Das Symptom: alle wollen einen Agenten, wenige fragen, wer für ihn verantwortlich ist
In den letzten Wochen konkurrierten drei Nachrichten praktisch um dieselbe Schlagzeile.
Die V8.Tech hat ein Programm zur Unternehmensbeschleunigung beendet und ist daraus mit 24 Projekte setzt KI-Agenten direkt in den Betrieb von Partnerunternehmen ein, laut einem Bericht des IT Forum (2025).
Im selben Zeitraum berichtete die SITEPD (2025), dass gezielte Angriffe auf KI-Agenten bereits stattgefunden haben mehr als 100 Unternehmen.
Und HappyRobot, heute als Einhorn im Segment der KI-Agenten bewertet, kündigte die Eröffnung eines Büros in São Paulo an, laut BNamericas (2025) — ein klares Zeichen dafür, dass der brasilianische Markt für Anbieter dieser Technologie zur Priorität geworden ist.
Drei Nachrichten, eine Botschaft: Der KI-Agent hörte auf, ein Experiment zu sein, und wurde zur Betriebsinfrastruktur.
Das Problem ist, dass die kommerzielle Diskussion darum KI-Agenten immer noch so behandelt, als handele es sich um Automatisierung von Tabellenkalkulationen. Das ist es nicht. Und wer einen KI-Agenten an einen Kunden verkauft, implementiert oder empfiehlt, übernimmt in der Praxis operative Verantwortung — selbst wenn das bei der Abschlussbesprechung niemand laut gesagt hat.
"Der Unterschied zwischen Automatisierung und einem autonomen Agenten ist nicht technisch. Er ist rechtlich, reputationsbezogen und operativ zugleich."
Zwei Zahlen, die nicht in derselben Woche erscheinen sollten
Es lohnt sich, zu unterscheiden, was jede Nachricht wirklich aussagt, denn zusammen ergeben sie ein Bild, das kein kommerzielles Angebot einer Agentur üblicherweise dem Kunden zeigt.
24 Projekte (V8.Tech, via IT Forum) ist der Beweis dafür, dass der brasilianische Unternehmenssektor die Phase der Neugier bereits hinter sich hat. Große Unternehmen setzen KI-Agenten zur Entscheidungsfindung in realen Prozessen ein — Kundenservice, Triage, Qualifizierung, Backoffice.
100+ Unternehmen angegriffen (SITEPD) ist der Beweis dafür, dass die Angriffsfläche mit derselben Geschwindigkeit wie die Einführung gewachsen ist. Ein KI-Agent, der auf ein System zugreift, sensible Daten liest und eine Aktion ohne menschliche Überprüfung ausführt, ist per Definition ein neuer Einstiegspunkt für diejenigen, die eine Schwachstelle ausnutzen wollen.
Die beiden Nachrichten nebeneinander zu stellen ist kein Alarmismus. Es ist Trendbeobachtung: Je mehr autonome Agenten in den Betrieb eingebunden werden, desto größer wird die Angriffsfläche — und desto kleiner der Spielraum, dies als "nur noch eine weitere Automatisierung" zu behandeln.
Das ist genau die Art von Kluft zwischen verfügbarer Technologie und der Reife derjenigen, die sie bedienen, die wir bereits diskutiert haben, als das Thema war Visionäres BI und amateurhafte Entscheidung. Das Muster wiederholt sich: das Tool entwickelt sich schneller als die Governance um es herum.
KI-Agent ist kein Feature. Er ist ein Mitarbeiter ohne Arbeitsvertrag.
Die ehrlichste Art, einem nicht-technischen Kunden einen KI-Agenten zu erklären, ist diese: er verhält sich wie ein Junior-Mitarbeiter, der nie schläft, nie um eine Gehaltserhöhung bittet und nie mitteilt, wenn er sich bezüglich einer Entscheidung unsicher ist.
Das ist mächtig. Und im gleichen Maße gefährlich.
Ein menschlicher Mitarbeiter macht Fehler, weiß aber normalerweise, wann er einen Fehler macht, und eskaliert das Problem. Ein schlecht konfigurierter KI-Agent führt die falsche Aktion mit derselben Sicherheit aus, mit der er die richtige ausführen würde — und das in großem Maßstab, parallel, in Dutzenden gleichzeitiger Gespräche.
Diesen Punkt haben wir bereits behandelt, als es um Menschliche Betreuung als Risikomanagement, kein Alleinstellungsmerkmal einer Agentur. Das Argument gilt noch stärker für autonome Agenten: die Frage ist nicht "bedient die KI besser als ein Mensch", ist "wer übernimmt das Konto, wenn der Agent im Namen des Kunden Ihrer Agentur falsch entscheidet".
Diese Frage hat keine zufriedenstellende Antwort, wenn sie erst auftaucht, nachdem der Agent bereits in Produktion ist.
Was ändert sich im Betrieb, wenn der Agent allein entscheidet
Es gibt einen strukturellen Unterschied zwischen drei Reifegraden der KI im Betrieb:
- Assistent — schlägt vor, Mensch entscheidet und führt aus.
- Copilot — führt aus, aber unter direkter und umkehrbarer Aufsicht.
- Autonomer Agent — entscheidet und führt kaskadenartig aus, oft ohne menschlichen Checkpoint in der Mitte des Prozesses.
Die Mehrheit der 24 Projekte von V8.Tech, wie die Berichterstattung des IT Forum (2025) nahelegt, zielt genau auf die dritte Ebene: Agent im tatsächlichen Geschäftsablauf, nicht nur als reine Vorschlagsebene.
Das erfordert drei Dinge, die selten in den technischen Implementierungsumfang fallen:
- Prüfpfad von jeder Entscheidung, die vom Agenten getroffen wurde, mit Zeitstempel und protokollierter Logik.
- Reichweitenbegrenzung explizit — was der Agent eigenständig entscheiden kann und was einer Eskalation bedarf.
- Eindämmungsplan für den Fall, dass (nicht) der Agent eine Entscheidung außerhalb des erwarteten Musters trifft.
Ohne diese drei Schichten ist der KI-Agent keine gut implementierte Autonomie. Es ist ein nicht erfasstes Risiko, das in der Produktion läuft.
Tabelle: die Risiken, die niemand in das kommerzielle Angebot aufnimmt
| Risiko | Was in der Praxis passiert | Wer wird normalerweise in Rechnung gestellt |
|---|---|---|
| Fehlerhafte Entscheidung im großen Maßstab | Agent reproduziert denselben Fehler in Hunderten von Interaktionen, bevor es jemandem auffällt | Agentur, die implementiert hat |
| Offenlegung sensibler Daten | Agent greift auf ein internes System zu und legt Informationen in einer schlecht formulierten Antwort offen | Endkunde, dann die Agentur |
| Ziel eines gezielten Angriffs | Agent wird durch Prompt-Injection oder Social Engineering manipuliert, wie von SITEPD (2025) dokumentiert | Betrieb als Ganzes |
| Fehlende Prüfspur | Niemand kann rekonstruieren, warum der Agent eine bestimmte Entscheidung getroffen hat. | Agentur, in Vertragsstreit |
| Fehlende Begrenzung der Autonomie | Agent führt eine Aktion aus, die eigentlich an einen Menschen eskaliert hätte werden sollen. | Endkunde, mit Reputationsschaden |
Diese Tabelle ist nicht dazu da, Angst zu machen. Sie dient als Tagesordnungspunkt für das Kickoff-Meeting — bevor der Agent in Produktion geht, nicht erst nach einem Zwischenfall.
Governance-Checkliste vor dem Einsatz eines Agenten in der Produktion
Bevor die Aktivierung eines beliebigen KI‑Agenten im Betrieb eines Kunden genehmigt wird, sollte Folgendes bestätigt werden:
- Der Entscheidungsspielraum des Agenten ist schriftlich dokumentiert, nicht nur im System konfiguriert.
- Es gibt eine klare Grenze zwischen dem, was der Agent allein entscheidet, und dem, was eine menschliche Eskalation erfordert.
- Für jede in den letzten 90 Tagen getroffene Entscheidung ist ein Audit-Trail zugänglich.
- Der Endkunde weiß schriftlich, dass er mit einem autonomen Agenten interagiert.
- Es gibt einen getesteten Eindämmungsplan für Szenarien mit abweichendem Verhalten.
- Die Angriffsfläche des Agenten (Integrationen, APIs, zugegriffene Daten) wurde mit derselben Ernsthaftigkeit wie ein traditioneller Pentest kartiert.
- Es gibt innerhalb der Agentur eine benannte verantwortliche Person, die die Leistung des Agenten überwacht — nicht nur, weil sie ihn implementiert hat.
Sieben Punkte. Keines davon ist optional, wenn der Agent bereits im Namen eines echten Kunden entscheidet.
Die Rolle der Agentur: Autonomie zu verkaufen heißt, Rechenschaftspflicht zu verkaufen
Aqui está o ponto que a chegada de players como a HappyRobot ao Brasil deixa ainda mais evidente, segundo a cobertura da BNamericas (2025): o mercado de agentes de IA está amadurecendo rápido, com investidores e empresas internacionais apostando pesado nesse modelo de operação.
Das bedeutet, dass in kurzer Zeit, Ein KI-Agent im Betrieb wird kein Differenzierungsmerkmal mehr sein, sondern zur grundlegenden Erwartung des Kunden werden.. Die Frage, die entscheiden wird, wer das Konto behält, wird nicht mehr "implementierst du einen KI-Agenten?", sondern "Garantieren Sie, dass der Agent, den Sie implementiert haben, nicht passiv wird?".
Es ist dieselbe Verschiebung, die wir bereits in Bezug auf GEO und die Migration des Suchverkehrs hin zu KI-Antworten: Die Technologieschicht ändert sich, aber wer die dahinterstehende Governance-Schicht nicht begleitet, ist zuerst gefährdet.
Für die Agentur hat das eine direkte Konsequenz: Der Vertrag zur Implementierung eines KI-Agenten muss eine Klausel zur kontinuierlichen Überwachung enthalten, nicht nur pünktliche Lieferung. Liefern und Verschwinden ist das alte Modell. Überwachen, Auditieren und Anpassen ist das, was darüber entscheidet, wer den nächsten Sicherheitsvorfall in der Branche überleben wird.
Wie man das bepreist, ohne das eigene Risiko zu unterschätzen
Die kommerzielle Versuchung besteht darin, den KI-Agenten als "nur eine weitere Leistung" innerhalb eines Automatisierungspakets einzubetten. Es ist ein Fehler bei der Preisgestaltung und der Positionierung.
Wenn der Agent im Namen des Kunden entscheidet, trägt er ein anderes Maß an operationellem Risiko als eine E-Mail-Marketing-Automatisierung oder ein BI-Dashboard.
Das sollte als eigene Vertragszeile erscheinen, mit drei klaren Komponenten:
- Implementierung — Konfiguration, Tests, festgelegte Autonomiegrenze.
- Kontinuierliche Überwachung — regelmäßige Überprüfung von Entscheidungen, Anpassung des Umfangs.
- Reaktion auf Vorfall — SLA definiert für den Fall, dass der Agent vom erwarteten Muster abweicht.
Ohne diese Trennung übernimmt die Agentur ein Risiko der Stufe 3, verlangt aber einen Preis der Stufe 1. Und das zeigt sich früher oder später in einer durch Nacharbeit oder vertragliche Auseinandersetzungen aufgezehrten Nettomarge.
Diese Art struktureller Entscheidung — zu unterscheiden, was eine einmalige Leistung ist, von dem, was ein kontinuierlicher Betrieb ist — ist derselbe Gedankengang, den wir gesehen haben, als das Thema war kapital versus governance in unternehmen, die zu schnell wachsen. Zu wachsen ohne eine dahinterstehende Struktur ist kein Fortschritt, sondern aufgestaute Schulden.
Häufig gestellte Fragen
Ist ein KI-Agent riskanter als ein traditioneller Chatbot? Ja, strukturell. Ein traditioneller Chatbot folgt einem festen Entscheidungsbaum. Ein KI-Agent trifft dynamische Entscheidungen auf Basis des Kontexts, was die Flexibilität erhöht und auch die Fehleranfälligkeit.
Muss meine Agentur ein Cybersicherheitsunternehmen werden, um einen KI-Agenten zu implementieren? Nein. Aber es muss mindestens ein dokumentierter Prozess zur Risikokartierung vorhanden sein, bevor irgendein Agent in Produktion genommen wird — selbst wenn die technische Umsetzung der Sicherheitsmaßnahmen ausgelagert ist.
Wie fügt sich die MAI in dieses Szenario ein? Die MAI ist das auf Marketing spezialisierte KI-Hub, das für Agenturen entwickelt wurde. Die MAI führt keine Kampagnen für Endkunden durch und übernimmt nicht die geschäftliche Beziehung zu ihnen — diese bleibt vollständig bei der Agentur. Was die MAI bietet, ist Intelligenz und Struktur, damit die Agentur diese Entscheidungen mit mehr Sicherheit und fachlicher Autorität gegenüber dem eigenen Kunden treffen kann.
Gibt es eine Provision für diejenigen, die MAI in diesem Prozess nutzen? Die MAI stellt die Lizenzen in Rechnung. Die einzige anwendbare Provisionsformel ist: aktive Lizenzen × Lizenzpreis × Prozentsatz Ihrer Partnerschaftsstufe. Die spezifischen Bedingungen werden im Abstimmungsmeeting vorgestellt.
Fazit: Die Autonomie, die Ihre Agentur verkauft, braucht einen Verantwortlichen
24 Projekte, die aus einem Accelerator hervorgehen. Mehr als 100 Unternehmen, die durch KI‑Agenten angesprochen wurden. Ein Einhorn des Sektors eröffnet ein Büro in São Paulo.
Keine dieser drei Nachrichten verändert für sich allein das Spiel. Gemeinsam zeigen sie, dass Ein KI-Agent im Betrieb ist nicht mehr die Frage "ob", sondern die Frage "mit welcher Governance".
Ihre Agentur kann diejenige sein, die einen KI-Agenten ohne Checkliste, ohne Audit-Trail und ohne Überwachungsklausel implementiert — und darauf hofft, dass der Vorfall zuerst beim Konkurrenten passiert.
Oder es kann diejenige sein, die Autonomie so behandelt, wie sie wirklich ist: eine Verantwortung, die einen Verantwortlichen, einen Prozess und einen angemessenen Vertrag braucht.
Die zweite Option ist aufwändiger zu verkaufen. Sie ist auch die einzige, die den ersten wirklichen Vorfall übersteht.