Spécification technique – Indicateur de confiance : Examen public
Le Inclusive Design Research Centre (IDRC) de l’Université OCAD invite le public à participer à l’examen de la Spécification technique – Indicateur de confiance, une spécification technique non normative élaborée dans le cadre du programme sur l’IA et la gouvernance des données du Conseil canadien des normes.
L’Indicateur de confiance traite de la discrimination statistique dans la prise de décision appuyée par l’IA, en particulier des préjudices qui surviennent lorsque des personnes ou des groupes sont hors distribution par rapport aux données utilisées pour entraîner les systèmes d’IA. Ces risques sont particulièrement importants pour les groupes marginalisés, notamment les personnes en situation de handicap, dont les réalités sont souvent mal représentées dans les données agrégées.
La version préliminaire de la spécification comprend :
- une analyse de la discrimination statistique et des risques liés aux cas atypiques ;
- un examen des préjudices potentiels dans les systèmes d’IA utilisés pour la prise de décision ;
- des orientations en matière de gouvernance, de données, d’architecture, de déploiement, de suivi et d’amélioration ;
- des recommandations non normatives destinées aux concepteurs, exploitants et évaluateurs.
La spécification s’applique principalement aux systèmes de classification fondés sur l’apprentissage automatique et aux outils d’aide à la décision, y compris ceux qui soutiennent la prise de décision humaine.
Comment soumettre des commentaires
Les commentaires peuvent être transmis de l’une ou l’autre des façons suivantes :
-Télécharger le document Word, utiliser le suivi des modifications et/ou les commentaires, et l’envoyer par courriel à Vera Roberts (vroberts@ocadu.ca)
- Ouvrir un billet dans le dépôt GitHub du projet (un commentaire par billet est préférable)
- Envoyer des commentaires écrits par courriel à Vera Roberts (vroberts@ocadu.ca)
- Utiliser le lien « Créer une copie » du document Google, ajouter des commentaires ou des modifications suivies avec l’accès réviseur, puis transmettre le lien vers la copie par courriel à Vera Roberts (vroberts@ocadu.ca)
Nous accueillons favorablement les suggestions, corrections, clarifications et exemples, notamment :
- des exemples de préjudices ou de quasi incidents impliquant des systèmes d’IA ;
- des expériences liées aux stratégies d’atténuation présentées ;
- des analyses indiquant où le document pourrait être renforcé ou clarifié.
La période d’examen public prend fin le 13 mai 2026. Bien que tous les commentaires ne puissent pas être intégrés, l’ensemble des rétroactions reçues sera examiné avec attention.