Human-in-the-Loop heißt, dass an definierten Stellen eines automatisierten Ablaufs ein Mensch prüft, korrigiert oder freigibt, bevor es weitergeht.
Was bedeutet der Begriff?
Human-in-the-Loop beschreibt ein Gestaltungsprinzip für KI und Automatisierung: Das System erledigt die Vorarbeit, ein Mensch trifft an kritischen Punkten die Entscheidung. Das kann eine Freigabe sein, eine Korrektur oder das Beantworten einer Rückfrage des Systems. Ziel ist, die Geschwindigkeit der Automatisierung mit der Verantwortung von Menschen zu verbinden.
Die Kunst liegt im richtigen Maß: Zu viele Freigaben nehmen der Automatisierung den Nutzen, zu wenige erhöhen das Risiko. Bewährt hat sich, mit mehr Kontrolle zu starten und Schritte erst zu lockern, wenn Fehlerquoten bekannt sind. Je höher die Auswirkung einer Entscheidung für Personen, Kosten oder Recht, desto eher gehört ein Mensch in den Ablauf. Auch regulatorisch spielt menschliche Aufsicht bei KI eine Rolle.
Beispiel aus einem KMU
Ein Beispiel aus einem KMU: Ein Workflow erkennt in eingehenden Dokumenten Rechnungsnummer, Betrag und Lieferant. Liegt die Erkennung sicher innerhalb vorgegebener Grenzen, wird gebucht. Bei Unsicherheit oder ungewöhnlichen Beträgen landet der Fall in einer Prüfliste. Die Mitarbeiterin sieht den Originalbeleg neben den erkannten Daten, korrigiert und gibt frei.