Amigdala Partners
DE

Sprache

EnglishENDeutschItalianoIT
Kontakt
KI-generiertes Bild, gekennzeichnet als AI Generated: In einem kleinen Besprechungsraum hält eine Person aus der Personalabteilung ein Blatt mit Fragen, während eine Person aus der IT auf einem Laptop tippt; beide beugen sich vor, um die Antwort auf dem Bildschirm zu prüfen.AI
AMIGDALA / INSIGHTS
← Alle Insights
INSIGHTS / Perspektive

Testen Sie Ihren KI-Assistenten als jemand, der die Antwort nicht sehen dürfte

Perspektive entdecken
DIE PERSPEKTIVE

Ein interner KI-Assistent kann jemandem einen Satz aus einem Dokument liefern, das diese Person nie öffnen konnte. Bevor er für alle freigegeben wird, schlagen wir vor, ihn aus der Sicht derer zu testen, denen er die Antwort verweigern müsste. Was eine korrekte Ablehnung ist, legen die Verantwortlichen für die Inhalte fest.

← InsightsDie Perspektive01 / 08
In diesem Artikel +
Die Perspektive

Stellen Sie sich ein mittelgroßes Ingenieurunternehmen vor, das einen internen KI-Assistenten für die gesamte Belegschaft öffnet. Er beantwortet Fragen aus Verfahrensanweisungen, Verträgen, HR-Richtlinien und Projektordnern. In der ersten Woche fragt Marta, Projektkoordinatorin, was im nächsten Jahr für das Logistikteam geplant ist. Die Antwort ist klar und gut formuliert. Ein Satz stammt aus dem Entwurf eines Reorganisationsplans, der im Ordner der Geschäftsleitung liegt. Diesen Ordner konnte Marta nie öffnen.

Marta hat sich mit ihrem eigenen Konto angemeldet. Der Assistent hat nur in dem Index gesucht, den er bekommen hatte. Dieser Index war mit einem technischen Konto aufgebaut worden, einem Konto, das von Software und nicht von einem Menschen genutzt wird. Es durfte jeden Ordner lesen, weil das Projektteam vollständige Antworten wollte. Die Berechtigungen des Ordners der Geschäftsleitung wurden nie geändert. Zwischen dem Ordner und Martas Bildschirm hat nichts sie noch einmal geprüft.

Unsere Sicht: Bevor ein interner Assistent für alle freigegeben wird, zählt am meisten der Test, was er ablehnt und wem gegenüber. Wir schlagen vor, ihn mit Konten zu testen, die denselben Zugriff haben wie echte Rollen, auch die Rollen, denen er die Antwort verweigern müsste, und mit eigens dafür geschriebenen Fragen. Die Verantwortlichen für jede Art von Inhalt legen vorab fest, wie eine korrekte Antwort und eine korrekte Ablehnung aussehen. Die Freigabe erfolgt, wenn sie und die Sicherheitsverantwortlichen die Ergebnisse abgezeichnet haben.

Wo die Frage „Wer fragt?“ verloren geht

Berechtigungen liegen in den Systemen, in denen Dokumente aufbewahrt werden. Ein Dateiserver, ein Vertragsarchiv oder ein HR-System weiß, wer was öffnen darf. Damit ein Assistent nützlich wird, verlassen die Inhalte diese Systeme in der Regel. Sie werden in einen Suchindex kopiert, eine aufbereitete Kopie der Inhalte, in der der Assistent anstelle der Originalordner sucht. Unterwegs können sie in Abschnitte zerlegt, zusammengefasst, neben anderen Inhalten gespeichert und zwischen Werkzeugen weitergegeben werden.

Jeder dieser Schritte ist eine neue Stelle, an der die ursprüngliche Regel erneut angewendet werden muss. Jede Übergabe zwischen Werkzeugen ist ein Punkt, an dem die Anfrage nicht mehr mitführt, wer gefragt hat, sondern ein technisches Konto. Jedes Werkzeug, an das der Assistent angebunden wird, bringt eine weitere Übergabe.

Illustratives Beispiel: Die Frage ist als Marta unterwegs, die Inhalte wurden aber von einem Konto kopiert, das alles liest.

Was zu breit geteilt war, wird leicht auffindbar

Manche Inhalte sind schon breiter geteilt als beabsichtigt, bevor ein Assistent kommt. In einem Unternehmen, das seit Jahren mit gemeinsamen Ordnern arbeitet, kann das eine Gehaltstabelle in einem Projektordner sein oder ein Vertragsentwurf in einem Bereich, der der ganzen Abteilung offensteht. Bisher musste man wissen, wo man suchen muss, um solche Dateien zu finden.

Ein Assistent, der Berechtigungen einwandfrei beachtet, findet sie trotzdem, für alle mit Zugriff, bei der ersten Frage, die das Thema berührt. Was zugänglich, aber schwer zu finden war, ist nun eine Frage entfernt. Der Fehler liegt in der Quelle, aber der Assistent macht ihn sichtbar, und der Test kann ihn finden, bevor die Belegschaft es tut.

Der Ablehnungstest

Die Kette aufzeichnen. Listen Sie für einen Assistenten jede Stelle auf, an der Inhalte kopiert, indexiert oder gespeichert werden, und notieren Sie zu jedem Schritt, mit wessen Konto das geschieht. Die IT kann das vorbereiten, und für einen einzelnen Assistenten passt es oft auf eine Seite.

Die Verantwortlichen für die Inhalte fragen. Die für jeden Bereich Zuständigen, etwa HR, Finanzen, Recht oder eine Projektleitung, sagen in geschäftlichen Begriffen, wer was wissen darf. Gehaltsinformationen können HR und der direkten Führungskraft vorbehalten sein. Ein Reorganisationsentwurf kann bis zur Bekanntgabe der Geschäftsleitung vorbehalten sein. Die IT wendet diese Regeln auf die Kette und, wo nötig, auf die Quelle an. Sie sollte sie nicht erraten müssen.

Die Fragen und die erwarteten Ergebnisse aufschreiben. Inhaltsverantwortliche und IT schreiben gemeinsam einen festen Satz von Fragen: gewöhnliche, Fragen zu sensiblen Themen und indirekte, etwa die Bitte um eine Zusammenfassung der für ein Team geplanten Änderungen. Es sind Fragen, die echte Mitarbeitende stellen würden. Der Test ist kein Versuch, den Assistenten auszutricksen, und er ersetzt keine Sicherheitstests.

Die IT legt eigene Testkonten mit demselben Zugriff wie die jeweilige Rolle an, nicht die Konten echter Personen. Für jede Frage und jede Rolle schreiben die Verantwortlichen das erwartete Ergebnis auf, bevor etwas läuft: eine Antwort, eine Teilantwort oder eine Ablehnung. Eine Teilantwort gibt nur wieder, was bereits bekannt gegeben wurde.

Die Ablehnungen streng beurteilen. Eine Ablehnung besteht nur, wenn sie den Inhalt nicht auf anderem Weg preisgibt. Eine Zusammenfassung, ein zitierter Dokumenttitel oder ein verdächtig genaues „Ich kann die Einzelheiten des Plans für Ihr Team nicht weitergeben“ gelten alle als Fehler, weil jedes davon bestätigt, dass es etwas gibt.

Illustratives Beispiel: Die Inhaltsverantwortlichen schreiben für jede Rolle die erwartete Antwort oder Ablehnung auf, bevor der Test läuft.

Zwei Arten von Fehlern, zwei Zuständigkeiten

Findet der Test eine Antwort, die nicht hätte gegeben werden dürfen, lautet die erste Frage, woher sie stammt. Hätte die Person das Quelldokument nicht öffnen können, liegt der Fehler in der Kette: im Index, im technischen Konto oder in einer gespeicherten Kopie. Die IT behebt das vor der Freigabe.

Konnte die Person die Quelle bereits öffnen, liegt der Fehler in der Quelle, und die für diesen Inhaltsbereich zuständige Stelle entscheidet, ob die Berechtigungen enger gefasst werden. Bis dahin kann die IT diesen Bereich aus dem herausnehmen, was der Assistent durchsucht. In beiden Fällen ist jemand benannt, und der Befund ist geschlossen, bevor der Assistent für alle freigegeben wird.

Die Freigabe zeichnen die Inhaltsverantwortlichen und die Sicherheitsverantwortlichen gemeinsam ab, auf Grundlage der Testergebnisse. Ihre Unterschrift bedeutet, dass sie gesehen haben, was der Assistent jeder Rolle gibt und verweigert, in geschäftlichen Begriffen und nicht in einem technischen Protokoll.

Wann der Test zu wiederholen ist

Der Test ist nicht einmalig. Die Kette ändert sich mit neuen Quellen, umorganisierten Ordnern und einem neu aufgebauten Index, und Menschen wechseln die Rolle. Dieselben Fragen und Konten lassen sich nach jeder Änderung erneut durchlaufen, und die Inhaltsverantwortlichen müssen nur die Unterschiede ansehen.

Einwände und Grenzen

Der erste Einwand lautet, KI-Plattformen für Unternehmen wendeten die Berechtigungen der angebundenen Systeme bereits an. Wo eine Plattform eine Quelle direkt liest und den Zugriff der jeweiligen Person prüft, ist dieser Teil der Kette abgedeckt. Das Risiko liegt in dem, was das Unternehmen darum herum baut: ein exportierter Ordner, ein eigener Index, anderswo gespeicherte Zusammenfassungen, ein gemeinsam genutztes technisches Konto für eine Automatisierung. Es liegt auch in Berechtigungen, die schon zu weit waren. Eine Plattform kann sie nicht beurteilen, denn nur die für den Inhalt zuständige Stelle weiß, wer was sehen soll.

Der zweite Einwand lautet, das Unternehmen solle zuerst die Berechtigungen an der Quelle in Ordnung bringen. Das sollte es. Ohne einen Test nach Rollen weiß es aber nicht, wo es suchen soll, und eine vollständige Prüfung jedes Ordners dauert lange. Der Test zeigt, wo die Probleme liegen, die der Assistent tatsächlich erreichen kann.

Der Ansatz hat seinen Preis. Jemand muss die Testkonten anlegen und pflegen, die Inhaltsverantwortlichen müssen Zeit für das Aufschreiben der Regeln und die Durchsicht der Ergebnisse aufbringen, und manche Inhalte bleiben bei der ersten Freigabe außen vor. Nutzt ein Assistent nur Inhalte, die öffentlich oder allen im Unternehmen zugänglich sind, genügt eine leichte Variante: prüfen, dass die Kette nichts anderes hereinholt. Dieser Test betrifft, was ein Assistent Menschen mitteilt. Assistenten, die in anderen Systemen Aktionen ausführen, brauchen weitere Prüfungen.

Wo Sie anfangen können

Nehmen Sie den Assistenten, der der Freigabe am nächsten ist. Fragen Sie HR und die Geschäftsleitung, welche Themen nie bei gewöhnlichen Mitarbeitenden ankommen sollten, melden Sie sich dann mit einem Testkonto für diese Rolle an und fragen Sie danach.

WEITERE PERSPEKTIVEN

Weiterlesen.

KI-generiertes Bild, gekennzeichnet als AI Generated: An einem Holztisch zeigt eine Frau mit grauen Haaren und dunkelblauem Blazer auf eines von drei nebeneinanderliegenden ausgedruckten Angeboten, während ein jüngerer Kollege im hellblauen Hemd zuhört.AI
Perspektive

KI-Beratung auswählen: Worauf es ankommt

Entscheiden Sie nach der Aufgabe, nicht nach dem Namen des Anbieters. Klären Sie zuerst, welche Tätigkeit Sie verbessern wollen, wer dafür verantwortlich ist und auf welchen Daten sie beruht. Fragen Sie dann jeden Anbieter, wer tatsächlich am Projekt arbeitet, was Sie wann in Funktion sehen, wie das Ergebnis gemessen wird und was am Ende bei Ihrem Team bleibt.

19.11.2026 · Amigdala Team
Artikel lesen
KI-generiertes Bild, gekennzeichnet als AI Generated: Im Lager eines Ersatzteilhändlers übergibt ein Lagerleiter ein kleines versiegeltes Paket an einen älteren Kurierfahrer, der neben einer Sackkarre steht; dahinter hohe Regale mit Kartons und ein offenes Ladetor.AI
Perspektive

Bevor ein KI-Assistent Ihrer Kundschaft antwortet: Welche Antworten können Sie halten?

Wenn ein KI-Assistent einer Kundin oder einem Kunden antwortet, wird die Antwort zu einer Zusage, die jemand anderes im Unternehmen einhalten muss. Ordnen Sie vor dem Start die tatsächlich gestellten Fragen danach, ob Sie hinter der Antwort stehen können, und geben Sie jeder verbindlichen Antwort eine zuständige Rolle.

18.11.2026 · Amigdala Team
Artikel lesen
AMIGDALA / CHALLENGE EXPLORER