Spécification technique – Indicateur de confiance : Version 1
Le Inclusive Design Research Centre (IDRC) de l’Université OCAD, a publié la première version de la Spécification technique – Indicateur de confiance, une spécification technique non normative élaborée dans le cadre du programme sur l’IA et la gouvernance des données du Conseil canadien des normes.
L’Indicateur de confiance traite de la discrimination statistique dans la prise de décision appuyée par l’IA, en particulier des préjudices qui surviennent lorsque des personnes ou des groupes sont hors distribution par rapport aux données utilisées pour entraîner les systèmes d’IA. Ces risques sont particulièrement importants pour les groupes marginalisés, notamment les personnes en situation de handicap, dont les réalités sont souvent mal représentées dans les données agrégées.
La spécification technique fournit :
- une analyse de la discrimination statistique et des risques liés aux cas atypiques ;
- un examen des préjudices potentiels dans les systèmes d’IA utilisés pour la prise de décision ;
- des orientations en matière de gouvernance, de données, d’architecture, de déploiement, de suivi et d’amélioration ;
- des recommandations non normatives destinées aux concepteurs, exploitants et évaluateurs.
La spécification s’applique principalement aux systèmes de classification fondés sur l’apprentissage automatique et aux outils d’aide à la décision, y compris ceux qui soutiennent la prise de décision humaine. Elle aborde la notion de « discrimination statistique » telle que définie dans la norme CAN-ASC-6.2:2025 Systèmes d’intelligence artificielle accessibles et équitables et précise le problème traité par cette spécification technique, y compris les risques associés aux cas hors distribution et aux valeurs aberrantes. Cette spécification vise à soutenir la mise en œuvre de la norme CAN-ASC-6.2:2025 et la conformité à celle-ci.
L’Indicateur de confiance est un document évolutif qui fera l’objet de révisions périodiques. Les commentaires et suggestions peuvent être soumis via GitHub jusqu’au prochain cycle formel d’examen.
Comment soumettre des commentaires
Les commentaires peuvent être transmis de l’une ou l’autre des façons suivantes :
- Ouvrir un billet dans le dépôt GitHub du projet (un commentaire par billet est préférable)
Nous accueillons favorablement les suggestions, corrections, clarifications et exemples, notamment :
- des exemples de préjudices ou de quasi incidents impliquant des systèmes d’IA ;
- des expériences liées aux stratégies d’atténuation présentées ;
- des analyses indiquant où le document pourrait être renforcé ou clarifié.