Warum Stufen statt Ja oder Nein
Die Frage „Darf die KI das?“ ist zu grob. Ein und dasselbe System kann eingehende Mails einem Vorgang zuordnen, Antwortentwürfe schreiben und Termine eintragen. Diese Tätigkeiten haben sehr unterschiedliche Folgen, wenn etwas schiefgeht. Freigabestufen erlauben, jede Fähigkeit einzeln einzuordnen, statt das ganze System pauschal zu erlauben oder zu verbieten.
Grün: selbstständig, aber eng begrenzt
Auf Grün stehen nur Abläufe ohne Außenwirkung, deren Ergebnis eindeutig ist. Ein typischer Fall ist das Ablegen einer eingegangenen Rechnung im richtigen Vorgang anhand einer klaren Nummer. Geht hier etwas schief, bleibt der Fehler im Haus und lässt sich korrigieren. Antworten an Kunden oder Zusagen gehören nicht hierher.
Gelb: vorbereiten und freigeben
Gelb ist die Voreinstellung für jede neue Fähigkeit. Das System erstellt einen Entwurf oder Vorschlag mit Fundstelle, und ein Mensch prüft, ändert und gibt frei. Erst dann geht etwas hinaus oder wird wirksam. Diese Stufe trägt den größten Teil der Arbeit im Alltag und hält zugleich die Verantwortung dort, wo sie hingehört.
Rot: nur der Mensch
Auf Rot unterstützt das System höchstens mit Informationen, handelt aber nicht. Das betrifft etwa Personalentscheidungen, Kündigungen, Zahlungsfreigaben oder heikle Kundengespräche. Wichtig ist, dass Rot technisch durchgesetzt wird: Die Fähigkeit ist abgeschaltet und nicht bloß in einer Richtlinie untersagt.
Wer die Stufe festlegt und ändert
Die Einstufung trifft der Betrieb, nicht der Anbieter, und zwar je Fähigkeit mit einer namentlich zuständigen Person. Eine Hochstufung von Gelb auf Grün sollte nur nach bestandener Abnahme und mit nachvollziehbarer Begründung geschehen. Eine Rückstufung ist jederzeit möglich. Die Details zum Ampelmodell von KheepU finden Sie auf unserer Sicherheitsseite.