Die Kontrolle wird zum eigenen Arbeitsschritt

Stellen wir uns einen fiktiven Ersatzteilhändler vor. Seine KI liest Reklamationen, ordnet Bestellungen zu und schlägt eine Antwort samt möglicher Gutschrift vor. Eine erfahrene Mitarbeiterin gibt jeden Vorschlag frei. In der Vorführung klappt das gut: Die Unterlagen sind übersichtlich, die Fälle bekannt und für Rückfragen ist Zeit.

Im Alltag treffen gleichzeitig neue Reklamationen, Telefonate und dringende Lieferprobleme ein. Die KI erstellt weiter Entwürfe. Die Mitarbeiterin muss nun zwischen schneller Freigabe und sorgfältiger Prüfung wählen. Die technische Leistung ist gestiegen, die verfügbare Aufmerksamkeit nicht.

Das ist kein Argument gegen KI. Es ist ein Grund, die Freigabe als echte Arbeit zu kalkulieren. Für die Prozessautomatisierung zählt der korrekt abgeschlossene Vorgang. Ein wachsender Stapel fertiger Vorschläge ist noch kein besserer Kundenservice.

Eine plausible Begründung ist noch kein Beleg

Im Beispiel empfiehlt die KI eine Gutschrift mit einer schlüssigen Zusammenfassung. Die Mitarbeiterin müsste aber prüfen können, welche Bestellung betroffen ist, ob bereits Ersatz geliefert wurde und welche Zusage dem Kunden tatsächlich gemacht wurde. Fehlen diese Informationen, bewertet sie vor allem, wie überzeugend der Entwurf klingt.

Ich würde die Prüfoberfläche deshalb vom Entscheidungsbedarf her gestalten: Vorschlag, betroffener Vorgang, maßgebliche Originalunterlagen und offene Widersprüche gehören zusammen. Eine von der KI erzeugte Zusammenfassung kann die Orientierung erleichtern. Sie darf den Zugang zu den Belegen nicht ersetzen.

Auch eine ausführliche Erklärung der KI ist keine unabhängige Bestätigung ihres Vorschlags. Bei einer strittigen Lieferzusage muss die prüfende Person die ursprüngliche Nachricht aufrufen können. Fehlt sie, ist die richtige Handlung zunächst eine Klärung und keine Freigabe.

Wer verantwortlich ist, muss widersprechen können

Eine Zuständigkeit im Organigramm genügt nicht. Die verantwortliche Person braucht Fachkenntnis, Zugriff auf die relevanten Informationen und die Befugnis, einen Vorschlag abzulehnen oder den Ablauf anzuhalten. Ebenso muss klar sein, wer bei Urlaub, Krankheit oder einem fachlich besonders schwierigen Fall übernimmt.

Beim Ersatzteilhändler sollte eine Mitarbeiterin einen ungeklärten Vorgang zurückstellen dürfen, ohne dass dies als persönliches Versagen bei der Bearbeitungszeit gilt. Wird ausschließlich Geschwindigkeit belohnt, steht sorgfältige Kontrolle im Konflikt mit dem Arbeitsauftrag.

Die Geschäftsführung muss diesen Konflikt auflösen. Sie legt fest, welche Fragen vor einer Gutschrift beantwortet sein müssen und welche Ausnahmen an die Teamleitung gehen. Die KI kann diese Entscheidung vorbereiten; die organisatorische Verantwortung lässt sich nicht an ihren Antworttext delegieren.

Nicht jeder Vorgang braucht dieselbe Kontrolle

Alle Vorschläge gleich zu behandeln, ist bequem, aber nicht zwingend sinnvoll. Eine falsch gesetzte interne Kategorie lässt sich meist leichter korrigieren als eine versendete Ablehnung oder eine bereits veranlasste Gutschrift. Entscheidend sind die Folgen eines Fehlers und die Möglichkeit, ihn rechtzeitig zu bemerken und zu beheben.

Für den Händler würde ich zunächst folgende Aufteilung erproben. Sie ist eine betriebliche Empfehlung für dieses Beispiel und muss an den tatsächlichen Prozess angepasst werden.

  • Interne Vorsortierung: eng begrenzte Automatisierung, wenn Fehlzuordnungen rechtzeitig auffallen und leicht korrigierbar bleiben; regelmäßige Stichproben prüfen die Qualität.
  • Antworten und Gutschriften: Freigabe vor der Ausführung, solange Fehlerfolgen, Zuordnung und Ausnahmebehandlung nicht ausreichend beherrscht sind.
  • Widersprüchliche Unterlagen oder ungewöhnliche Zusagen: Übergabe an eine fachlich zuständige Person mit dem ausdrücklichen Auftrag, den Sachverhalt zu klären.

Der Rückstau braucht eine vorherige Entscheidung

Ein Pilot sollte zeigen, wie lange die Prüfung normaler und schwieriger Fälle tatsächlich dauert. Dazu gehört die Suche nach fehlenden Belegen ebenso wie die eigentliche Entscheidung. Aus Fallmenge und Prüfaufwand lässt sich abschätzen, welche Kapazität gebraucht wird. Für Spitzen und Vertretung ist zusätzlich Spielraum nötig.

Vor dem Ausbau würde ich außerdem festlegen, was bei einem wachsenden Freigabestau geschieht: Werden weitere Vorgänge vorübergehend im bisherigen Verfahren bearbeitet? Übernimmt eine eingearbeitete Vertretung? Welche dringenden Fälle werden vorgezogen? Ungeklärte Vorschläge sollten jedenfalls nicht allein deshalb automatisch wirksam werden, weil niemand rechtzeitig reagiert.

Ein Rückstau kann auch bedeuten, dass die KI für diese Aufgabe noch zu viel Klärungsarbeit erzeugt. Dann ist ein kleinerer Einsatzbereich möglicherweise wirtschaftlicher als mehr Personal zum Bestätigen unbrauchbarer Vorschläge. Diese Entscheidung verlangt einen Blick auf den gesamten Ablauf, nicht nur auf die Geschwindigkeit der Texterstellung.

Prüfen Sie, ob die Kontrolle Fehler wirklich findet

Für den Pilotbetrieb würde ich mit nachgebildeten Reklamationen arbeiten, darunter bewusst falsche Zuordnungen und fehlende Belege. Das Team weiß, dass Fehlerfälle enthalten sind, kennt aber nicht jeden einzelnen. Entscheidend ist, ob die vorgesehenen Informationen und Arbeitsschritte helfen, den Fehler vor der Freigabe zu erkennen.

Im Betrieb lohnt sich neben Bearbeitungszeit und Rückstau der Blick auf später entdeckte Fehlfreigaben. Eine geringe Ablehnungsquote allein beweist weder gute KI noch gute Kontrolle. Sie kann unterschiedliche Ursachen haben und muss anhand konkreter Fälle eingeordnet werden.

Menschliche Kontrolle bleibt fehlbar. Sie ersetzt auch keine technischen Zugriffsgrenzen gegen Prompt Injection. Ihr Wert liegt darin, fachliche Entscheidungen an einer Stelle zu ermöglichen, an der ein Mensch tatsächlich informiert eingreifen kann. Bevor Unternehmen mehr KI-Vorgänge zulassen, sollten sie deshalb nachweisen können, dass diese Stelle auch unter Alltagsbedingungen funktioniert.