1. Tvrdenie
Nasadenia, ktoré môžu ublížiť ľuďom, potrebujú definovaný bezpečný stav.
Tento bezpečný stav musí byť dosiahnuteľný mimo AI.
Ide o pravidlo nasadenia, nie o pravidlo váh modelu.
2. Pracovný príklad
Robotaxi: je dostupný stop; ne-AI systém stop vykoná; dvere sa otvoria mechanicky. Príklad je štrukturálny — zatiaľ len dĺžka a fakty do voice pass.
3. Prečo to nie je nová myšlienka
Funkčná bezpečnosť už oddeľuje bezpečnostnú funkciu od riadeného procesu. Línia zahŕňa IEC 61508 a IEC 61511 (nezávislosť bezpečnostnej funkcie), ISO 13850 (núdzové zastavenie), vrstvy ochrany a automobilový degraded mode.
4. Rozlíšenie
Reguluje sa nasadenie, nie vývojári modelov. Námietka „pri open weights to nejde“ na požiadavku bezpečného stavu na strane nasadenia nedopadá.
5. Presná formulácia
Definovaný bezpečný stav dosiahnuteľný mimo AI — nie vypínač a nie žiadosť, aby sa model „správal“.
6. Register
3 nástrojov v 2 jurisdikciách