IA RESPONSABLE
L’autonomie doit être méritée par des preuves, des contrôles et la responsabilité.
Une IA responsable dans les systèmes d’exécution exige plus qu’une déclaration de principe. Les droits de décision, limites des sources, confidentialité, sécurité, évaluation, traçabilité, gestion des incidents et revue humaine doivent être intégrés et mesurés en exploitation.
01
Autorité humaine et autonomie proportionnée
Le niveau d’autonomie doit correspondre aux conséquences d’une erreur, aux obligations réglementaires et à la qualité des preuves.
- Définir qui peut approuver, remplacer et contester
- Maintenir des points de contrôle humains pour les décisions importantes
- Limiter les actions, outils et accès aux données
- N’augmenter l’autonomie qu’après évaluation
02
Fonctionnement fiable
Les systèmes fiables rendent observables leurs sources, actions, défaillances et exceptions.
- Confidentialité et sécurité dès la conception
- Connaissances, règles et outils versionnés
- Journaux d’actions et preuves
- Tests de qualité, biais et comportements dangereux
- Solutions de secours, retour arrière et réponse aux incidents
IA RESPONSABLE03
Promesses responsables
LaCitty distingue les capacités conçues, les résultats validés et les objectifs futurs. Aucune métrique, recommandation ou garantie n’est publiée sans preuve vérifiable.
IA RESPONSABLELACITTY
Parler d’IA responsable
Une IA responsable dans les systèmes d’exécution exige plus qu’une déclaration de principe. Les droits de décision, limites des sources, confidentialité, sécurité, évaluation, traçabilité, gestion des incidents et revue humaine doivent être intégrés et mesurés en exploitation.