1. L'affirmation
Les déploiements qui peuvent nuire aux personnes ont besoin d'un état sûr défini.
Cet état sûr doit être atteignable sans IA.
C'est une règle de déploiement, pas une règle sur les poids du modèle.
2. Exemple travaillé
Taxi autonome : un arrêt est disponible ; un système non-IA exécute l'arrêt ; les portes s'ouvrent mécaniquement. L'exemple est structurel — longueur et faits seulement jusqu'au voice pass.
3. Pourquoi ce n'est pas une idée nouvelle
La sécurité fonctionnelle sépare déjà la fonction de sécurité du processus contrôlé. La lignée inclut IEC 61508 et IEC 61511 (indépendance de la fonction de sécurité), ISO 13850 (arrêt d'urgence), couches de protection, et degraded mode automobile.
4. La distinction
Cela régule les déploiements, pas les développeurs de modèles. L'objection « cela ne peut pas marcher pour les open weights » ne s'applique pas à une exigence d'état sûr côté déploiement.
5. Formulation précise
Un état sûr défini atteignable sans IA — pas un interrupteur, et pas une demande au modèle de « se comporter ».
6. Le registre
3 instruments suivis dans 2 juridictions