1. Tvrzení
Nasazení, která mohou ublížit lidem, potřebují definovaný bezpečný stav.
Tento bezpečný stav musí být dosažitelný mimo AI.
Jde o pravidlo nasazení, ne o pravidlo vah modelu.
2. Pracovní příklad
Robotaxi: je dostupný stop; ne-AI systém stop provede; dveře se otevřou mechanicky. Příklad je strukturální — zatím jen délka a fakta do voice pass.
3. Proč to není nová myšlenka
Funkční bezpečnost už odděluje bezpečnostní funkci od řízeného procesu. Linie zahrnuje IEC 61508 a IEC 61511 (nezávislost bezpečnostní funkce), ISO 13850 (nouzové zastavení), vrstvy ochrany a automobilový degraded mode.
4. Rozlišení
Reguluje se nasazení, ne vývojáři modelů. Námitka „u open weights to nejde“ na požadavek bezpečného stavu na straně nasazení nedopadá.
5. Přesná formulace
Definovaný bezpečný stav dosažitelný mimo AI — ne vypínač a ne žádost, aby se model „choval“.
6. Registr
3 nástrojů ve 2 jurisdikcích