Des agents que votre équipe des risques peut approuver
Nous bâtissons pour les organisations où chaque décision automatisée doit être expliquée, attribuée et vérifiée : services financiers, gouvernement et santé.
Services financiers
S’applique aux institutions financières fédérales à compter du 1er mai 2027 et vise aussi les modèles d’intelligence artificielle et d’apprentissage automatique.
Consulter la source ↗Ce qu’on attend de vous
- Chaque modèle, y compris les agents d’IA, répertorié et coté selon son risque
- Un responsable désigné pour chaque modèle
- Une validation avant l’utilisation et un suivi continu
- Des preuves à présenter à l’audit interne et à l’organisme de réglementation
Comment nous bâtissons en conséquence
- Chaque agent est inscrit avec un responsable, un ID d’agent Microsoft Entra et une cote de risque dès le départ
- Des jeux de tests d’évaluation servent de validation et sont relancés à chaque changement
- Suivi, transcriptions et historique des changements conservés pour l’audit
- Une fiche descriptive par agent : objectif, données, modèle, limites et responsable
Gouvernement et secteur public
S’applique lorsque des institutions fédérales utilisent des systèmes automatisés, y compris l’IA générative, pour prendre ou appuyer des décisions administratives. Une évaluation de l’incidence algorithmique doit être réalisée et publiée avant la mise en production.
Consulter la source ↗Ce qu’on attend de vous
- Une évaluation de l’incidence avant le lancement, proportionnelle à l’impact de la décision
- De la transparence : les personnes savent quand un système intervient
- Une personne dans la boucle lorsque les décisions touchent des gens
- Des services bilingues et accessibles
Comment nous bâtissons en conséquence
- Une documentation de conception prête à alimenter l’évaluation de l’incidence algorithmique et l’examen par les pairs
- Les agents assistent et recommandent ; les personnes décident
- Des avis clairs et des pistes d’audit intégrés au processus
- Notre accélérateur Power Pages bilingue et accessible pour l’accueil des demandes
Santé
Le Commissaire à l’information et à la protection de la vie privée de l’Ontario recommande aux dépositaires de réaliser une évaluation des facteurs relatifs à la vie privée avant d’adopter un système d’IA touchant des renseignements personnels sur la santé.
Consulter la source ↗Ce qu’on attend de vous
- Une évaluation des facteurs relatifs à la vie privée avant qu’un système d’IA ne touche des renseignements sur la santé
- Uniquement des outils approuvés, sans « IA fantôme »
- Le minimum de renseignements nécessaires
- Une responsabilité claire pour quiconque agit au nom du dépositaire
Comment nous bâtissons en conséquence
- Les agents fonctionnent uniquement dans votre locataire Microsoft approuvé, avec des flux de données documentés pour votre EFVP
- Accès selon le moindre privilège et étiquettes de confidentialité
- Révision humaine pour tout ce qui est clinique ou urgent
- Un suivi de l’utilisation qui rend visible l’IA non approuvée