Menschliche Freigaben bei KI: praktische Modelle für den Arbeitsalltag

Kurz gesagt: Prüfung folgt der möglichen Wirkung

Eine interne Zusammenfassung mit leicht korrigierbarem Fehler braucht einen anderen Prozess als eine externe Aussage oder eine Entscheidung mit Folgen für Menschen. Legen Sie deshalb nicht pauschal fest, dass jede Ausgabe entweder automatisch nutzbar ist oder vollständig manuell neu erstellt werden muss. Definieren Sie abgestufte Prüfungen und machen Sie die Kriterien für das Team sichtbar.

Drei Freigabestufen für den Arbeitsalltag

Stufe 1 – interne Vorbereitung: Bei geringem Risiko kann eine zuständige Person Ergebnisse stichprobenartig oder nach einem festgelegten Qualitätsschema prüfen. Voraussetzung ist, dass Fehler leicht erkennbar und korrigierbar sind und das Ergebnis nicht ungeprüft nach außen gelangt.

Stufe 2 – externe oder verbindliche Kommunikation: Kundenantworten, veröffentlichte Inhalte und Zusagen sollten vor dem Versand oder der Veröffentlichung einer namentlich zuständigen Person vorgelegt werden. Die Person prüft Inhalt, Ton, Belege, Empfänger und mögliche Verpflichtungen.

Stufe 3 – folgenreiche Schritte: Änderungen an Datensätzen, Zahlungen, Vertragsabläufen oder Entscheidungen mit erheblichen Auswirkungen sollten eine explizite Freigabe und einen nachvollziehbaren Nachweis erfordern. Wo eine Handlung nicht rückgängig gemacht werden kann, muss der Ablauf vor ihrer Ausführung stoppen.

Was ein Freigabe-Gate enthalten sollte

Ein Gate ist mehr als ein grüner Knopf. Es beschreibt den Auftrag, die zulässigen Quellen, das gewünschte Ergebnis, Prüfkriterien, die verantwortliche Person, eine Frist und den nächsten Schritt bei Ablehnung. Protokollieren Sie, welche Version geprüft wurde, welche Änderungen verlangt wurden und wer anschließend entschieden hat.

Gute Kriterien sind konkret: „Quellen nennen und Zahlen gegen die Originalunterlage prüfen“ ist hilfreicher als „Text auf Qualität prüfen“. Bei bestimmten Prozessen können Prüferinnen und Prüfer mit einer kurzen Checkliste arbeiten, etwa zu Vollständigkeit, Plausibilität, Datenschutz und unbelegten Aussagen.

Rückfragen und Unsicherheit sichtbar machen

Kann das System die Aufgabe nicht mit den freigegebenen Informationen bearbeiten, sollte es fehlende Angaben nennen und pausieren. Widersprüchliche Quellen, ungewöhnliche Fälle oder nicht vorgesehene Aktionen gehören in einen Eskalationsweg. Das Modell darf keine stillschweigende Standardentscheidung treffen, nur damit ein Prozess ohne Rückfrage weiterläuft.

Beispiel: von der Entwurfsantwort zum Versand

Ein digitaler Mitarbeiter kann aus einer freigegebenen Wissenssammlung einen Antwortentwurf vorbereiten und Quellenhinweise ergänzen. Die zuständige Person prüft, ob die Antwort zum konkreten Fall passt, ob Informationen fehlen und ob Zusagen enthalten sind. Erst nach dieser Prüfung wird der Text versendet. Ist eine Aussage nicht belegt, wird sie angepasst oder der Fall an die fachliche Stelle übergeben.

Rechtliche Einordnung nicht pauschalisieren

Artikel 14 des EU AI Act behandelt die menschliche Aufsicht bei Hochrisiko-KI-Systemen. Daraus folgt keine pauschale Regel, dass jede alltägliche KI-Ausgabe zwingend denselben Freigabeprozess benötigt. Ob und welche gesetzlichen Anforderungen gelten, hängt vom konkreten System, Einsatz und Zeitpunkt der Anwendbarkeit ab. Für den eigenen Fall sollte die zuständige Rechts- oder Compliance-Stelle prüfen.

Fazit: Menschen entscheiden, Systeme unterstützen

Ein gutes Freigabemodell weist Aufgaben und Grenzen zu, bevor ein Fehler auftritt. Es macht menschliche Prüfung als Teil des Prozesses sichtbar, dokumentiert Entscheidungen und ermöglicht ein sicheres Stoppen. So kann ein Team passende Kontrollen aufbauen, statt zwischen ungesteuerter Automatisierung und vollständiger Handarbeit wählen zu müssen.

Quellen

Verordnung (EU) 2024/1689, insbesondere Artikel 14 (konsolidierte Fassung): https://eur-lex.europa.eu/eli/reg/2024/1689/2026-07-27/eng

Europäische Kommission, AI Act – Anwendungs- und Umsetzungstermine: https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

Bildhinweis: KI-generierte illustrative Szene mit fiktiven Personen; Unterlagen sind nicht lesbar und zeigen keinen realen Einzelfall.