AIWelche Entscheidungen bleiben bei mir, wenn KI dazukommt?
Perspektive entdeckenWenn KI einen Teil einer Rolle übernimmt, brauchen die Betroffenen Klarheit darüber, wer was entscheidet, nicht über die Strategie. Wir schlagen vor, das vor der Inbetriebnahme zu prüfen: Können die Betroffenen echte Fälle durchgehen und sagen, welche Entscheidungen weiterhin bei ihnen liegen?
In diesem Artikel +
Wenn ein KI-System beginnt, einen Teil der Arbeit eines Menschen zu erledigen, ist die für ihn wichtigste Frage aus unserer Sicht eine praktische: Welche Entscheidungen bleiben bei mir?
Weitere Fragen folgen. Bin ich noch verantwortlich, wenn das System etwas falsch macht? Wann darf ich es übersteuern? Was soll ich jetzt prüfen, und wie gründlich? Was geschieht mit der Zeit, die ich bisher für die Arbeit gebraucht habe, die nun das System erledigt?
Aus unserer Sicht gehören diese Fragen zum Entwurf des Systems, nicht in einen Kommunikationsplan, der nach dem Start geschrieben wird. Können die Menschen in einer Rolle sie nicht beantworten, hat die Organisation entweder noch nicht zu Ende entschieden, wie die Arbeit erledigt wird, oder sie hat es ihnen noch nicht gesagt.
Strategie erreicht den Arbeitsalltag über Entscheidungen
Strategie und Betriebsmodell geben die Richtung vor: welche Arbeit sich ändert, wozu das System dient, welche Risiken vertretbar sind. Für die Sachbearbeitung in der Kreditorenbuchhaltung werden sie erst wirklich, wenn sie an einem Dienstagmorgen ankommen, bei einer Rechnung, die das System als zahlungsbereit markiert hat. An diesem Punkt ist die Transparenz, mit der Menschen etwas anfangen können, enger und konkreter: wer was entscheidet, in welchen Situationen und auf welcher Grundlage.
Diese Information gibt es nur, wenn jemand sie entschieden hat. Ein Projekt kann genau festlegen, was das System tut, und trotzdem offenlassen, was der Mensch daneben tut.
Ein System, das funktioniert, kann die Aufgabe trotzdem unbestimmt lassen
Nehmen wir einen hypothetischen Industriehändler. Das Team der Kreditorenbuchhaltung erhält Lieferantenrechnungen per E-Mail und über ein Portal. Ein neuer KI-Assistent liest künftig jede Rechnung, gleicht sie mit der Bestellung und dem Wareneingang ab und schlägt eines von zwei Ergebnissen vor, zahlungsbereit oder Rückfrage beim Lieferanten, und markiert die Rechnungen, bei denen er unsicher ist. Der Assistent zahlt nichts: Als zahlungsbereit markierte Rechnungen gehen in den üblichen Zahllauf, den weiterhin die Finanzabteilung freigibt. Bisher haben die Sachbearbeitenden diesen Abgleich von Hand gemacht. Nach der Inbetriebnahme bearbeiten sie vor allem die Ausnahmen.
Der Assistent ist getestet und liefert bei den Testfällen gute Antworten. Die offenen Fragen liegen woanders. Liegt der Rechnungspreis leicht über dem Bestellpreis: Wer entscheidet, ob die Differenz vertretbar ist? Hat sich die Bankverbindung eines Lieferanten seit der letzten Zahlung geändert: Prüft immer ein Mensch vor dem Zahllauf? Ist jemand aus der Sachbearbeitung mit einem Vorschlag nicht einverstanden: Kann diese Person ihn stoppen, und muss es jemand erfahren? Steht die Sachbearbeitung für Rechnungen ein, die sie nie gesehen hat, weil das System sie als zahlungsbereit markiert hat?
Das sind nicht in erster Linie technische Fragen. Zusammen bestimmen sie, was die Aufgabe der Sachbearbeitung jetzt ist.
Die Antworten aufschreiben, Rolle für Rolle
Wir schlagen für jede Rolle, die das System verändert, eine kurze Entscheidungskarte vor. Eine Seite, in der Sprache derer geschrieben, die die Arbeit machen, mit fünf Teilen:
Das System. Was es tut und was es nicht tut.
Sie entscheiden. Die Entscheidungen, die bei Ihnen liegen, einschließlich der Fälle, die immer zu einem Menschen kommen.
Sie prüfen. Was Sie durchsehen sollen und was „geprüft“ bedeutet.
Wer einsteht. Wer für das Ergebnis verantwortlich ist, auch für Arbeit, die die Person nie sieht, etwa Rechnungen, die das System als zahlungsbereit markiert hat.
Noch nicht entschieden. Was noch offen ist, wer es entscheidet und wann.
Im Beispiel geht jede Änderung der Bankverbindung eines Lieferanten an die Sachbearbeitung. Sie bestätigt die Änderung beim Lieferanten über einen bereits hinterlegten Kontakt, auf einem anderen Kanal als dem, über den die Änderung eingegangen ist, bevor die Rechnung in den Zahllauf gelangen kann. Die Finanzleitung steht für den Zahllauf insgesamt ein. Zu trennen, wer einen Schritt ausführt, wer entscheidet und wer für das Ergebnis einsteht, verhindert, dass Verantwortung in die Lücke zwischen dem System und den Menschen daneben fällt.
Die Karte ersetzt weder die Berechtigungen des Systems noch die Prozessdokumentation. Sie übersetzt beides in die Begriffe einer Rolle, sodass eine Person vor einer konkreten Rechnung erkennen kann, ob der nächste Schritt bei ihr liegt. Anders als eine Verantwortlichkeitsmatrix, die Tätigkeiten entlang eines Prozesses zuweist, wird die Karte an einzelnen Fällen geprüft, sagt, was „geprüft“ bedeutet, und benennt, was noch offen ist.
Menschen sind bereit, wenn sie echte Fälle erklären und bearbeiten können
Die Karte zu schreiben genügt nicht. Setzen Sie sich vor der Inbetriebnahme mit einigen Personen aus jeder betroffenen Rolle zusammen und gehen Sie drei oder vier echte Fälle durch: eine einwandfreie Rechnung, eine Preisabweichung, ein geändertes Bankkonto, einen Fall, den das System als unsicher markiert. Fragen Sie bei jedem, was das System tun wird, was sie selbst tun werden und wer entscheidet, wenn sie dem System nicht zustimmen.
Bitten Sie sie dann, es in der Testumgebung zu tun: einen Vorschlag stoppen, einen Abgleich korrigieren, ein geändertes Bankkonto zur Prüfung geben. Einen Schritt erklären zu können ist nicht dasselbe, wie die Informationen, die Berechtigung und die Mittel zu haben, ihn auszuführen.
Wo ihre Antworten der Karte entsprechen, ist dieser Teil der Einführung bereit. Wir würden das neben der technischen Abnahme als Bedingung für die Inbetriebnahme behandeln: Eine Rolle, die ihre Fälle nicht erklären und ausführen kann, ist nicht bereit, was immer die Testergebnisse sagen. Wo die Antworten abweichen, sagt Ihnen die Lücke etwas Bestimmtes. Im Beispiel entspricht die einwandfreie Rechnung der Karte. Die Preisabweichung zeigt, dass die Karte die Toleranz nirgends nennt; die Karte ist zu korrigieren.
Das geänderte Bankkonto zeigt eine Sachbearbeitung, die glaubt, das System kümmere sich darum, während laut Karte sie entscheidet; die Schulung ist zu korrigieren. Die unsichere Rechnung zeigt, dass es noch keine Möglichkeit gibt, sie zu stoppen; das System ist zu korrigieren. Jede Lücke lässt sich leichter schließen, solange diejenigen, die das System eingerichtet haben, noch beteiligt sind. Wiederholen Sie denselben Durchgang einige Wochen nach dem Start, wenn die Menschen echte Erfahrung mit dem System haben und die Karte selbst korrigieren können.
Dieser Durchgang lässt sich auf eine Weise beobachten, wie es bei Schulungsteilnahme und Nutzungszahlen nicht möglich ist. Jemand kann ein Werkzeug täglich nutzen und trotzdem nicht wissen, ob er für das einsteht, was es freigibt.
Sagen, was noch nicht entschieden ist
Manche Fragen haben vor der Inbetriebnahme keine Antwort. Eine heikle ist, was mit der Zeit geschieht, die das System freisetzt. Die Organisation weiß womöglich noch nicht, wie diese Zeit genutzt wird.
In diesem Fall sagt eine ehrliche Karte genau das: noch nicht entschieden, wer entscheidet und bis wann. Das ist nützlicher als Schweigen, das die Menschen die Lücke mit eigenen Annahmen füllen lässt, und glaubwürdiger als ein Versprechen, das niemand halten kann.
Die Karte bleibt klein, weil sie Verantwortung abbildet, nicht Funktionen
Der naheliegende Einwand ist der Aufwand. Eine Karte für jede Rolle kann nach Bürokratie klingen, sie kann schon beim nächsten Release veraltet wirken, und manche lernen ein Werkzeug lieber, indem sie es benutzen.
Wir stimmen zu, dass die Karte klein bleiben sollte. Sie beschreibt Entscheidungen, keine Funktionen, und ändert sich deshalb, wenn sich eine Verantwortung ändert, nicht mit jedem Release. Der Durchgang soll Stunden dauern, nicht Wochen. Auch die Verhältnismäßigkeit zählt: Ein optionaler Schreibassistent, der keine Verantwortung verschiebt, braucht kaum mehr als einen Hinweis, was man ihm nicht anvertrauen sollte. Der Aufwand ist dort gerechtfertigt, wo das System verändert, wer für ein Ergebnis einsteht, etwa für eine Zahlung, eine Zusage an einen Kunden oder eine sicherheitsrelevante Entscheidung.
Berechtigungen sind keine Verantwortung
KI-Plattformen können Rollen, Berechtigungen, Nutzungsauswertungen und Schulungsmaterial bereitstellen, und das ist nützlich. Berechtigungen legen fest, was das System und die einzelnen Nutzerinnen und Nutzer tun können. Sie sagen der Sachbearbeitung nicht, ob sie für eine Zahlung einsteht, die sie nie gesehen hat, oder wann ihr Urteil erwartet wird. Nutzungsauswertungen zeigen, dass Menschen das Werkzeug verwenden, nicht, dass sie verstehen, wo es sie braucht.
Diese Antworten entstehen aus Prozessgestaltung, Governance und Veränderungsarbeit, gemeinsam mit den Betroffenen und nicht für sie. Für Amigdala gehört das zu dem, was Responsible AI in der Praxis bedeutet: Innovation, die Menschen schützt, beginnt damit, dass sie wissen, was weiterhin sie entscheiden.
Wählen Sie vor der nächsten Einführung drei echte Fälle und bitten Sie die Menschen, deren Arbeit sich ändert, sie mit Ihnen durchzugehen. Können sie es, sind Sie fast bereit. Können sie es nicht, haben Sie die Arbeit gefunden, die noch zu tun ist.


