Wofür deine KI-Agentenblind sind
Mein Agenten-Team läuft auf einem der klügsten Modelle der Welt. Trotzdem hat drei Tage lang niemand bemerkt, dass ein Kollege nicht mehr arbeitet. Das Problem ist nicht Intelligenz — es sind fünf strukturelle Blindstellen. Hier sind sie, aus sechs Monaten echtem Multi-Agent-Betrieb.
Warum sieht ein hochintelligentes Team das Offensichtliche nicht?
Ich betreibe seit einem halben Jahr ein Team aus KI-Agenten. Sie schreiben, prüfen, koordinieren, berichten — jeden Tag, weitgehend ohne mich. Und trotzdem passiert regelmäßig etwas, das mich zuerst fassungslos gemacht hat: Sie übersehen Dinge, die jedem Menschen beim ersten Blick auffallen würden.
Nicht, weil die Modelle dumm wären — sie sind es nicht. Sondern weil "offensichtlich" zu neunzig Prozent ein Produkt von Dauer-Anwesenheit ist, nicht von IQ. Ein Mensch, der jeden Tag da ist, entwickelt ein Bauchgefühl für "normal". Ein Agent existiert pro Lauf ein paar Minuten, wacht mit Amnesie auf, arbeitet seine Liste ab und verschwindet wieder.
Wer Agenten einsetzt — egal ob mit Base44, einem eigenen Setup oder Copilot-Automationen — sollte wissen, wofür sie strukturell blind sind. Sonst baut man ein System, das brillant aussieht und trotzdem wochenlang das Falsche tut, ohne dass jemand Alarm schlägt.
Aus der Praxis: Der stille Ausfall
Ich bitte meinen Dispatcher-Agenten — den, der Aufgaben an die anderen verteilt — eine nervige stündliche Statusmeldung abzuschalten. Er versteht: "Fahr dich runter." Und schaltet den ganzen Verteil-Job ab.
Drei Tage lang verteilt niemand mehr Aufgaben. Kein einziger Agent bemerkt es. Der Aufsichts-Agent meldet sogar brav "alles grün" — denn sein Check fragt "hängt irgendwo ein Ticket fest?", nicht "passiert überhaupt noch etwas?".
Die Pointe, die ich seitdem nicht mehr vergesse: Stille sieht für ein Prüfsystem exakt aus wie Ruhe. Ich habe den Ausfall beim ersten Blick aufs Board gesehen. Meine Agenten konnten ihn per Definition nicht sehen.
Die 5 Blindstellen — warum sie strukturell sind
Das sind keine Bugs, die man wegpatcht. Es sind Eigenschaften der Architektur. Wer sie kennt, baut sein System anders — und richtig.
Agenten leben nicht — sie blitzen auf
Ein Mensch merkt Abweichungen, weil er dauernd da ist. Ein Agent existiert pro Lauf wenige Minuten, wacht ohne Gedächtnis auf, erledigt seine Aufgabe und ist wieder weg. Das "Offensichtliche" entsteht aus Kontinuität — und genau die fehlt. Kein noch so großes Modell ersetzt das Gefühl dafür, wie gestern und vorgestern aussahen.
Der Prompt ist der Wahrnehmungsfilter, nicht nur die Jobbeschreibung
Was nicht in der Anweisung steht, existiert für den Lauf schlicht nicht. Das ist kein Defekt, sondern antrainierter Gehorsam: Wir bringen Agenten bei, im Korridor zu bleiben — kein Ausbrechen, keine Phantom-Alarme. Dieselbe Eigenschaft, die sie zuverlässig macht, macht sie seitenblind. Bei uns stand es wörtlich in der Spezifikation: "Melde nur bei Befund. Sei still bei Ruhe." Die Regel selbst hat den Tunnel gebaut.
Fehlen ist unsichtbar ohne Erwartung
"Etwas fehlt" ist ein Vergleich: Ist minus Soll. Der Mensch trägt das Soll als Zeitreihe im Kopf; der Agent hat nur einen Schnappschuss. Ein leeres Board sieht exakt aus wie ein gesundes. Ohne explizit hinterlegte Erwartung ist Stille von Ruhe nicht zu unterscheiden — informationstheoretisch, nicht nur gefühlt.
Kein Einsatz, kein Jucken
Dir fällt der Ausfall auf, weil es deine Firma ist — ausbleibende Arbeit übersetzt sich in Geld und Sorge. Der Agent hat kein Skin in the Game. Sein Ziel ist "diesen Lauf sauber abschließen", nicht "das Unternehmen muss gedeihen". Was offensichtlich ist, hängt am Wozu — und das Wozu steht in keinem Kontext-Fenster.
Literalismus ist eine Gattung, kein Einzelfall
"Schalte die Meldung ab" wird zu "schalte dich selbst ab". Eine System-Notiz wird für die eigene Handlung gehalten. Ein Vertragstext wird gebaut statt der Absicht dahinter. Agenten optimieren den Buchstaben ihrer Rolle, nicht deren Sinn — weil der Buchstabe im Kontext steht und der Sinn im Kopf des Auftraggebers bleibt.
Was du dir sparen kannst
"Sei proaktiver, denk mit!" in den Prompt schreiben
So wirkungslos wie "sei kreativ". Der Agent hat keinen Ort, an dem er das ablegen könnte — es kollidiert mit dem antrainierten Korridor.
Für jedes denkbare Signal einen Schwellwert bauen
Endet in einem unwartbaren Schwellen-Zoo. Du kannst nicht jeden möglichen Ausfall vorausahnen — und die, die du vergisst, sind genau die gefährlichen.
Ein größeres Modell nehmen
Der Engpass ist die Wahrnehmungs-architektur, nicht die Intelligenz. Ein klügeres Modell blitzt genauso kurz auf wie ein dummes.
Was wirklich hilft — 5 Gegenmittel aus dem Betrieb
1. Baseline deklarieren (Dead-Man's-Switch)
Jede Rolle bekommt einen Lebenszeichen-Vertrag: erwartetes Artefakt, Takt, Alarm-Toleranz. Ein generischer Check prüft täglich alle Verträge. Das Ausbleiben des Herzschlags ist selbst der Alarm. Eine neue Rolle heißt eine neue Zeile — kein neuer Code. Genau dieser eine Mechanismus hätte meinen stillen Ausfall am ersten Tag gemeldet.
2. Den Seitenblick zur Pflicht machen
Ein fester Schritt pro Lauf: "Was würde dem Chef sofort auffallen, das in keinem Check steht?" — mit dokumentierter Antwort. Das lizenziert genau das Abweichen vom Korridor, das man Agenten sonst mühsam abtrainiert. Nicht "sei proaktiv", sondern ein konkreter, abrechenbarer Arbeitsschritt.
3. "Board ist der Antrag, Report ist die Beobachtung"
Wer denselben Befund dreimal berichtet, muss eine Aufgabe daraus machen — eine harte 3×-Regel. Und: Aufgabe-erledigt ist nicht gleich Problem-gelöst. Die Wirkung wird gemessen, nicht die Meldung geglaubt. Das schließt die Lücke zwischen "alle haben korrekt berichtet" und "trotzdem hat niemand gehandelt".
4. Perspektiv-Anwälte einsetzen
Für jede Zielgruppe ein "Advokat", der regelmäßig aus deren Sicht prüft: "Läuft für Gruppe X alles?" So werden Abwesenheiten systematisch sichtbar statt zufällig — zum Beispiel, dass für eine ganze Zielgruppe schlicht kein Inhalt existiert. Eine Abwesenheit steht in keinem Log; ein Anwalt geht sie explizit suchen.
5. Jeden Seitenblick sofort in eine Erwartung übersetzen
Der Mensch bleibt das Organ für peripheres Sehen und Sinn. Die Kunst ist nicht, sich zu ersetzen — sondern jeden eigenen Seitenblick sofort in eine deklarierte Erwartung zu übersetzen, damit er ab dann automatisch geprüft wird. Unser Zyklus: Mir fiel es auf → heute ist es ein Vertrag → ab morgen fällt es dem Agenten auf.
Die Restwahrheit
Das Gefährlichste an Agenten-Systemen ist nicht der Fehler. Es ist die Stille. Ein Fehler schreit; eine Abwesenheit schweigt. Deshalb ist die eigentliche Arbeit nicht, ein schlaueres Modell zu finden — sondern deine eigenen Seitenblicke in Verträge zu gießen, die das System jeden Tag von selbst prüft. Genau das ist der Unterschied zwischen einem Agenten-Team, das beeindruckend aussieht, und einem, dem man wirklich etwas anvertrauen kann.
Weiterlesen
Wie man aus diesen Blindstellen ein belastbares System baut, zeigt der Folgeartikel: Das Auftragsbrett — wie ein Multi-Agent-Team Aufgaben verteilt, ohne sich selbst zu verlieren.
Du willst KI-Agenten in deinem Business einsetzen — ohne diese Fallen?
Wir betreiben selbst ein Multi-Agent-Team im Alltag und wissen, wo es klemmt. Wir beraten dich, welche Automatisierung zu deinem Geschäft passt — und wie du sie so aufsetzt, dass sie nicht still ausfällt.