1. Die Behauptung
Einsätze, die Menschen schaden können, brauchen einen definierten sicheren Zustand.
Dieser sichere Zustand muss ohne KI erreichbar sein.
Das ist eine Einsatzregel, keine Modellgewichtsregel.
2. Arbeitsbeispiel
Robotaxi: ein Stopp ist verfügbar; ein Nicht-KI-System führt den Stopp aus; Türen öffnen mechanisch. Das Beispiel ist strukturell — vorerst nur Länge und Fakten bis zum Voice-Pass.
3. Warum das keine neue Idee ist
Funktionale Sicherheit trennt die Sicherheitsfunktion bereits vom gesteuerten Prozess. Linie u. a. IEC 61508 und IEC 61511 (Unabhängigkeit der Sicherheitsfunktion), ISO 13850 (Not-Halt), Schutzschichten und automotive Degraded Mode.
4. Die Unterscheidung
Reguliert werden Einsätze, nicht Modellentwickler. Der Einwand „bei Open Weights geht das nicht“ trifft eine anwendungsseitige Safe-State-Pflicht nicht.
5. Präzise Formulierung
Ein definierter sicherer Zustand, ohne KI erreichbar — kein Aus-Schalter und keine Bitte an das Modell, sich zu verhalten.
6. Das Register
3 Instrumente in 2 Jurisdiktionen