IA responsable
Une IA que vous pouvez défendre.
Devant votre conseil. Devant vos vérificateurs. Devant un comité parlementaire. Devant la personne à l'autre bout de la décision. L'IA responsable n'est pas une page de notre site; c'est la façon dont chaque mandat se déroule, public ou privé.
L'engagement
Trois questions auxquelles chaque système doit répondre.
Est-il transparent?
Les personnes touchées par un système méritent de savoir qu'il existe, ce qu'il considère et comment le contester. Nous documentons les sources de données, le comportement des modèles et la logique décisionnelle dans un langage accessible aux non-spécialistes, et nous intégrons par défaut des avis de transparence aux systèmes destinés aux citoyens.
Est-il responsable?
Une personne nommée est responsable de chaque système d'IA que nous livrons. Les décisions à forte incidence gardent un humain dans la boucle; chaque résultat automatisé est traçable par des journaux de vérification; et les voies d'escalade sont conçues, testées et dotées en personnel, jamais implicites.
Est-il équitable?
Nous testons les écarts de performance entre les populations desservies par un système, avant le lancement et en continu par la suite. Là où nous trouvons des biais, nous les atténuons, les documentons et les divulguons. Là où ils ne peuvent être atténués, nous le disons, et nous recommandons de ne pas déployer.
En pratique
La responsabilité a une liste de contrôle.
Les principes ne coûtent rien. Voici ce qui se passe réellement à chaque étape d'un mandat.
01
Avant de construire
- Évaluation de l'incidence et des risques proportionnée aux conséquences du système
- Une réponse écrite à « est-ce que l'IA est le bon outil ici? » (parfois, c'est non)
- Revue de la provenance des données, du consentement et de la vie privée
- Cartographie des biais : qui ce système pourrait-il mal servir, et comment?
02
Pendant la construction
- Points de contrôle avec humain dans la boucle pour les décisions importantes
- Harnais d'évaluation avec critères d'acceptation préenregistrés
- Tests adverses et exercices d'équipe rouge avant le lancement
- Documentation des modèles et des données rédigée au fil du travail, pas après coup
03
Après la livraison
- Surveillance de la dérive, de la dégradation et des écarts d'incidence
- Voies claires d'escalade et de recours pour les personnes touchées
- Pistes de vérification qui survivent aux changements de personnel
- Revues planifiées avec critères de mise hors service définis
Cadres de référence
Ancrés dans de vrais instruments, pas des slogans.
Nous n'inventons pas notre propre vocabulaire éthique. Nous travaillons dans les cadres que vos fonctions de surveillance reconnaissent déjà.
Directive du GC sur la prise de décisions automatisée
Référence de conception pour les systèmes du secteur public
Évaluation de l'incidence algorithmique (ÉIA)
Méthode de classement des risques que nous appliquons au-delà du gouvernement
Cadre de gestion des risques de l'IA du NIST
Vocabulaire des risques et correspondance des contrôles
ISO/IEC 42001:2023
Orientation de système de gestion de l'IA pour la gouvernance
WCAG 2.1 AA / CAN/ASC-EN 301 549
Barre d'accessibilité des interfaces destinées aux citoyens
LPRPDE et lois provinciales sur la vie privée
Plancher de protection pour tout traitement de données
Ce que la plupart des fournisseurs ne diront pas
Parfois, la réponse responsable est « n'utilisez pas l'IA ici ».
Nous avons déconseillé à des clients des projets d'IA qui nous auraient bien payés, parce que les données n'y étaient pas, que le risque n'était pas justifié, ou qu'un tableur aurait fait le travail. Un cabinet qui ne dit jamais non ne vous conseille pas; il vous facture. Notre intérêt, c'est un système dont vous serez encore fiers dans cinq ans.