Während Unternehmen vom Experimentieren mit KI dazu übergehen, sie in echten Workflows einzusetzen, muss sich die Diskussion über menschliche Kontrolle weiterentwickeln.
Wir hören viel darüber, einen „Human-in-the-Loop“ beizubehalten. Meistens bedeutet das, dass eine Person überprüft, was die KI generiert, bevor eine Entscheidung getroffen oder eine Maßnahme ergriffen wird. Für viele Unternehmen ist das ein geeigneter Ausgangspunkt. Wenn die Technologie, die Daten oder der Prozess noch getestet werden, bietet die menschliche Überprüfung eine wichtige Absicherung.
Aber jeden KI-Output von Hand zu überprüfen, ist kein skalierbares Betriebsmodell.
Die Chance besteht nun darin, menschliches Urteilsvermögen früher in den Prozess zu verlagern, wo Geschäftskontext, Regeln und Leitplanken steuern können, wie ein Agent agiert.
Bringen Sie Fachwissen in den Workflow ein
Ich bezeichne diesen Wandel als „eingebettete Aufsicht“.
Anstatt sich darauf zu verlassen, dass Menschen Probleme erkennen, nachdem die KI eine Antwort erzeugt hat, können wir das Wissen von Fachleuten in den Workflow einbinden, bevor die KI überhaupt agiert.
Schließlich verstehen die Personen, die einem Geschäftsprozess am nächsten stehen, dessen Nuancen in der Regel besser als jede andere Person.
Ein Finanzanalyst weiß, welche Abweichungen eine Untersuchung rechtfertigen. Ein Schadenexperte versteht, welche Kombinationen von Informationen eine genauere Prüfung auslösen sollten. Ein Steuerexperte weiß, welche Regeln für eine bestimmte Jurisdiktion gelten. Eine operative Führungskraft versteht, wann eine Ausnahme aussagekräftig ist und wann es sich lediglich um eine normale Abweichung handelt.
Dieses Wissen ist für KI unglaublich wertvoll.
Das Ziel sollte sein, dies in wiederverwendbare Regeln, Workflows, Schwellenwerte und Leitplanken zu übersetzen, die KI-gestützte Systeme konsistent befolgen können. Dasselbe Prinzip spiegelt sich in unserem VURA-Framework für vertrauenswürdige KI wider. Damit KI in großem Maßstab zuverlässig funktioniert, müssen die dahinterstehenden Workflows und die Geschäftslogik sichtbar, verständlich, wiederholbar und prüfbar sein.
Integrierte Kontrolle hilft dabei, diese Prinzipien in die Praxis umzusetzen, indem menschliche Expertise in den Prozess einbezogen wird, bevor ein Agent aktiv wird.
Wie eingebettete Aufsicht in der Praxis aussieht
Lassen Sie mich Ihnen zwei Beispiele dafür geben, wie das aussieht, denn ich denke, die Idee wird erst wirklich verständlich, wenn Sie sie in einem echten Workflow sehen.
Das erste Beispiel stammt von einem Finanzteam, das die Bilanzabstimmung zum Monatsende durchführt. Der Workflow ruft Journaleinträge, PDFs und Auszüge aus dem ERP-System ab und fasst dann 30 Tage täglicher Berechnungen zusammen. Meistens läuft er im Hintergrund. Wenn er jedoch Unregelmäßigkeiten feststellt, wie etwa eine große, unerklärliche Abweichung bei einem einzelnen Anbieter über diesen 30-Tage-Zeitraum hinweg, stoppt er und sendet eine Warnmeldung – entweder per E-Mail oder als Pop-up auf der Plattform.
Der Analyst kann die Zahl genehmigen, ablehnen oder korrigieren, bevor der Workflow fortgesetzt wird. Niemand prüft jede Zeile des Abgleichs von Hand. Die menschliche Aufmerksamkeit richtet sich genau dorthin, wo sie gebraucht wird, und nirgendwo sonst.
Das zweite stammt von einem unserer Versicherungspartner. Ihre KI übernimmt die anfängliche Kommunikation mit Personen, die einen Autounfall melden. Meistens ist diese Unterhaltung reine Routine. Wenn jedoch etwas nicht zusammenpasst – beispielsweise wenn ein Anspruchsteller sein Fahrzeug mit 1 Mio. £ bewertet, das Kennzeichen jedoch zu einer viel günstigeren Marke und einem günstigeren Modell gehört –, pausiert der Workflow und zieht einen Schadensachbearbeiter hinzu.
Der Sachbearbeiter muss nicht jeden Schadensfall prüfen, der hereinkommt. Sie kommen genau dann ins Spiel, wenn die Zahlen keinen Sinn mehr ergeben, sehen sich die Abweichung an und treffen die Entscheidung, die ohnehin ein Mensch treffen sollte.
Beide Beispiele funktionieren im Grunde auf die gleiche Weise. Jemand hat im Vorfeld entschieden, was der Agent tun durfte. Der Workflow lief innerhalb dieser Grenzen und stoppte in dem Moment, in dem er an deren Grenzen stieß. Der Mensch war am Ende des Prozesses kein Engpass. Sie waren eine Entscheidung, die ganz am Anfang getroffen wurde, bevor der Workflow überhaupt ausgeführt wurde.
Wie sich dies auf den Analysten auswirkt
Ich werde oft gefragt, wie sich eine eingebettete Aufsicht auf die Arbeit des Analysten auswirken wird. Meiner Ansicht nach werden Analysten zu Managern von Agenten.
Sie statten es mit der Geschäftslogik aus, die es benötigt, um den Auftrag gut zu erledigen, legen Schwellenwerte fest, die ihm vorgeben, wann es innehalten und nachfragen soll, statt zu raten, und überprüfen die Logik hinter seinen Entscheidungen, um sie bei Veränderungen im Unternehmen anzupassen.
Diese Aufgaben erfordern viele der Fähigkeiten, die starke Analysten bereits wertvoll machen: Geschäftskontext, Datenkompetenz, kritisches Denken und ein Verständnis dafür, wie Prozesse wirklich funktionieren.
Die nächste Phase von Human-in-the-Loop
Mit zunehmender Reife von Enterprise-KI glaube ich nicht, dass der Erfolg daran gemessen wird, wie vollständig wir Menschen aus einem Prozess entfernen, sondern wie effektiv wir menschliche Expertise einsetzen können.
Bei manchen Entscheidungen bedeutet das weiterhin eine explizite menschliche Genehmigung. Bei anderen bedeutet es, die KI zu überwachen und bei Bedarf einzugreifen. Und zunehmend wird es bedeuten, das menschliche Urteilsvermögen zu Beginn des Prozesses durch vertrauenswürdige Daten, Geschäftsregeln, Workflows und Guardrails zu erfassen.
Genau dahin entwickelt sich Human-in-the-Loop.
Wenn wir menschliches Urteilsvermögen an den Anfang verlagern, können wir KI mehr Handlungsspielraum geben, ohne auf den Kontext, die Kontrolle und die Verantwortlichkeit zu verzichten, die Unternehmen benötigen, um den Ergebnissen zu vertrauen.