Intelligence artificielle

Celle-ci est la première version de CAN/CIOSC 101:2019, Conception éthique et utilisation de systèmes de décision automatisés.  

Cette norme spécifie les exigences minimales en matière de protection des valeurs humaines et d’incorporation de l’éthique dans la conception et l’utilisation de systèmes de décision automatisés. 

 Cette norme est limitée à l’intelligence artificielle (IA) utilisant l’apprentissage automatique pour des décisions automatisées. Cette norme s’applique à toutes les organisations, y compris les entreprises publiques et privées, les entités gouvernementales, et les organisations à but non lucratif.  

Il fournit un cadre et un processus pour aider les organisations à aborder l’IA principes d’éthique, tels que ceux décrits par l’OCDE:  

• L’IA devrait profiter aux personnes et à la planète en favorisant une croissance inclusive et un développement durable et bien-être.  
• Les systèmes d’IA doivent être conçus de manière à respecter l’état de droit, les droits de l’homme, les valeurs démocratiques et la diversité, et elles devraient inclure des garanties appropriées – pour exemple, permettre une intervention humaine si nécessaire – pour garantir une société juste et équitable. 
• Il devrait y avoir transparence et divulgation responsable autour des systèmes d’IA pour garantir que les gens comprennent les résultats de l’IA et peuvent les remettre en question.  
• Les systèmes d’IA doivent fonctionner de manière robuste, sécurisée et sûre tout au long de leur cycle de vie et les risques potentiels doivent être évalués et gérés en permanence.  
• Les organisations et les individus qui développent, déploient ou exploitent des systèmes d’IA doivent être tenus responsable de leur bon fonctionnement conformément aux principes ci-dessus.  

Les exigences de la présente norme sont fondées sur des principes et reconnaissent les pratiques de gouvernance d’une organisation peut dépendre de sa taille; structure propriétaire; nature, portée et complexité des opérations; stratégie; et profil de risque. Les organisations doivent prendre des mesures raisonnables et responsables pour adopter et mettre en œuvre les principes de cette norme.  

Cette norme est destinée à être utilisée en conjonction et intégrée avec la conformité de l’organisation programmes, y compris, mais sans s’y limiter, la confidentialité, la cybersécurité, la gouvernance des données, les plaintes et appels et programmes juridiques. 

AVIS : L’interprétation suivante a été approuvée par le Comité technique 2 : Conception éthique et utilisation de systèmes de décision automatisés. Le comité a publié une interprétation visant à clarifier la signification du terme « algorithme non verrouillé » .