Steuern vor der Konsequenz
Die These
KI darf vorschlagen. Sie sollte niemals stillschweigend Autorität erben.
Ein nachweisgeleiteter Leitfaden für Führung und Technik, um agentische KI vor der Ausführung zu kontrollieren — nicht danach.
Öffentliche Nachweisposition
Dieses Papier stellt ein öffentliches konzeptionelles Kontrollmodell dar und zitiert externe Autoritäten. Es legt keine proprietären befähigenden Details offen, zertifiziert kein Produkt und beansprucht weder unabhängige Verifikation noch Produktionsreife für EthicVault-Technologie.
Was die Lesenden mitnehmen
- Eine praktische Definition der Autorisierungsgrenze.
- Ein öffentliches, nicht-befähigendes Referenzmuster für Kontrolle vor der Ausführung.
- Eine Bedrohungs-zu-Kontrolle-Karte, Nachweistaxonomie, Pilotplan und Käufer-Checkliste.
Die Governance-Verschiebung
Monitoring bleibt notwendig, ist aber nachgelagert. Die entscheidende Kontrolle ist die, die eine unautorisierte Aktion stoppen kann, bevor sie zur operativen Tatsache wird.
Die Autorisierungsgrenze
Der explizite Entscheidungspunkt, an dem eine von der KI vorgeschlagene Aktion vor der Ausführung erlaubt, bedingt, eskaliert, zurückgehalten oder verweigert wird.
Getrennte Autorität
Das Modell genehmigt seine eigene Aktion nicht.
Vollständige Mediation
Jede folgenreiche Anfrage passiert denselben gesteuerten Freigabepunkt.
Fail closed
Fehlende, widersprüchliche, veraltete oder nicht autorisierte Bedingungen führen zu Halt oder Verweigerung, nicht zu impliziter Erlaubnis.
Prüfbare Nachweise
Die Organisation kann später bestimmen, welche Richtlinie, Autorität, Nachweise und Disposition galten.
Was deterministisch hier bedeutet
Es bedeutet nicht, dass das generative Modell deterministisch wird. Es bedeutet, dass die Freigabeentscheidung für dieselbe begrenzte Anfrage, denselben Richtlinien-, Autoritäts- und Nachweiszustand reproduzierbar ist. Das ist ein Kontrollziel, keine Behauptung, dass alles vorgelagerte Schließen wiederholbar sei.
Reasoning-Ebene vs. Control-Ebene
| Dimension | Reasoning-Ebene | Control-Ebene |
|---|---|---|
| Zweck | Erzeugen, planen, abrufen, empfehlen | Autorisieren, beschränken, eskalieren, verweigern |
| Typisches Verhalten | Probabilistisch und adaptiv | Explizit und richtliniengebunden |
| Fehlersorge | Fehler, Manipulation, Mehrdeutigkeit | Unautorisierte Freigabe oder schwache Nachweise |
| Beweisfrage | Warum hat das Modell das vorgeschlagen? | Warum wurde diese Aktion erlaubt oder verweigert? |
Nachweise ohne Übertreibung
Vertrauen wächst, wenn das Nachweis-Label so präzise ist wie die technische Aussage. Diese Labels überlappen und bilden keine einzelne Leiter.
| Status | Was es bedeutet | Was es nicht bedeutet |
|---|---|---|
| Behauptet | Eine Partei behauptet, dass eine Fähigkeit oder ein Ergebnis existiert. | Weder Umsetzung noch Messung noch Verifikation ist belegt. |
| Umgesetzt | Ein definiertes Artefakt oder eine Kontrolle existiert in einer angegebenen Umgebung. | Existenz allein belegt weder Wirksamkeit noch Sicherheit noch Skalierbarkeit. |
| Gemessen | Eine Metrik wurde unter beschriebenen Bedingungen erhoben. | Das Ergebnis lässt sich womöglich nicht über Testaufbau oder Last hinaus verallgemeinern. |
| Berichtet | Die berichtende Partei hat ein Ergebnis kommuniziert. | Die Lesenden haben die zugrunde liegenden Nachweise nicht unabhängig reproduziert. |
| Unabhängig verifiziert | Eine qualifizierte unabhängige Partei hat eine definierte Aussage im Geltungsbereich geprüft oder reproduziert. | Verifikation begründet nicht automatisch die Abnahme für den Einsatz. |
| Produktionsreif | Das System hat die definierten operativen, sicherheitsbezogenen, Governance-, Zuverlässigkeits-, Support- und Abnahmetore der Organisation für eine benannte Umgebung passiert. | Reife ist geltungsbereichsspezifisch; sie ist keine universelle Zertifizierung. |
Designregel
Gewähren Sie einem Modell keine Fähigkeit nur deshalb, weil es beschreiben kann, wann diese Fähigkeit einzusetzen wäre. Beschreibung ist keine Autorität, und Selbstbeschränkung eines Modells ist keine Zugriffskontrolle.
Das vollständige Papier lesen
Die Vollfassung ergänzt das sechsstufige Referenzmuster, die siebenzeilige Bedrohungs-zu-Kontrolle-Karte, den vierstufigen begrenzten Piloten mit Abnahmemaßen und den Beschaffungsleitfaden mit Warnsignalen.
PDF herunterladenPDF · 11 Seiten · öffentliche Freigabe