Nouvelles et événements

Pour faire connaître vos points de vue sur les pratiques de validation des systèmes d’IA à tous les maillons de la chaîne d’approvisionnement, nous vous invitons à répondre à un petit sondage du consortium Artificial Intelligence Quality Infrastructure (AIQI).

Ce dernier sollicite les commentaires d’organisations qui jouent un rôle actif dans les domaines de la fourniture de données, des télécommunications, de la fabrication de matériel informatique et du développement de modèles d’IA. Les commentaires recueillis contribueront à l’élaboration par le consortium AIQI d’un nouvel outil de validation conçu pour soutenir des systèmes d’IA fiables et transparents.

Lorsque le prototype de l’outil sera prêt, les répondantes et répondants pourraient être contactés pour réaliser un entretien de suivi.

Répondre au sondage (en anglais).

Le gouvernement du Canada a signé un protocole d’entente avec Cohere Inc., une entreprise technologique multinationale canadienne spécialisée dans les technologies d’IA, pour améliorer les activités de la fonction publique et renforcer l’écosystème d’IA du pays. Le partenariat vise le déploiement de solutions d’IA souveraines dans tout le gouvernement, la promotion du développement responsable de l’IA et le soutien à l’innovation canadienne. Cohere aidera le Canada à renforcer ses capacités nationales et sa compétitivité à l’échelle mondiale. Par cette initiative, le gouvernement fait valoir la souveraineté numérique, le développement de talents et le leadership international en IA éthique. Lire le communiqué de presse.

L’initiative est alignée sur la stratégie globale du Canada en matière d’IA, qui comprend l’investissement de plus de 4,4 milliards de dollars depuis 2016, la Stratégie pancanadienne en matière d’intelligence artificielle, l’Institut canadien de la sécurité de l’intelligence artificielle et des codes de conduite volontaires pour la gestion de l’IA générative.

Les solutions d’IA souveraines désignent les technologies d’IA élaborées et gérées au Canada, garantissant ainsi la confidentialité et la sécurité des données ainsi que leur adéquation aux valeurs canadiennes. Pour la fonction publique, cela se traduit par une confiance accrue dans la transparence des systèmes d’IA et leur responsabilité envers la population canadienne. À mesure que de nouvelles initiatives seront déployées, le Pôle de normalisation en AIDG continuera de publier des mises à jour sur les partenariats et les possibilités de mobilisation. Suivre le CCN et visiter régulièrement le Pôle pour connaître les dernières nouvelles concernant le rôle d’impulsion du Canada en matière d’IA et ses multiples avantages pour les secteurs public et privé.

Au Sommet de l’IA au service du bien social de 2025, les sommités et les organismes de normalisation des quatre coins de la planète ont mis en relief l’utilité de la collaboration internationale pour transformer les principes de gouvernance de l’IA en mesures concrètes. Les séances portaient sur le rôle des normes dans l’établissement de systèmes d’IA fiables et inclusifs conformes aux valeurs humaines et aux besoins sociétaux.

Le CCN s’est allié à des partenaires du Canada et d’ailleurs pour réfléchir à l’importance de la collaboration intersectorielle dans la conception des systèmes d’IA responsables. Le Sommet mettait en lumière la contribution de l’expertise canadienne aux efforts mondiaux d’élaboration de normes en appui à l’innovation centrée sur l’humain.

Les normes mondiales favorisent la confiance, font la promotion de l’interopérabilité et consolident le rôle du Canada dans le façonnement de la gouvernance de l’IA de demain. En participant au discours international, le CCN fait concorder les normes techniques avec les priorités d’intérêt public et les besoins sociétaux.

Le Canada continue de jouer un rôle actif dans l’évolution des normes internationales en orientant les discussions sur leur avenir. La participation de nos expertes et experts à des événements mondiaux, comme le Sommet de l’IA au service du bien social, garantit une bonne représentation des perspectives et des priorités canadiennes. Une collaboration continue sera essentielle à mesure que de nouveaux défis et de nouvelles occasions se présenteront en matière de gouvernance de l’IA. Pour en apprendre davantage sur la participation du Canada et se tenir au courant des initiatives à venir, consulter le Pôle de normalisation en AIDG pour accéder aux dernières ressources et mises à jour.

Un sondage mené par KPMG International et l’Université de Melbourne auprès de plus de 48 000 personnes de 47 pays place le Canada au 44e rang sur le plan de la formation et de la littéracie en matière d’IA et en 42e position pour ce qui est de la confiance du public dans cette technologie. Ce n’est que 24 % de la population canadienne qui rapporte avoir suivi une quelconque formation officielle sur l’IA, contre 39 % dans le monde, et seulement 34 % dit faire confiance aux renseignements générés par l’IA, contre 46 % dans le monde. Près de la moitié des personnes sondées au Canada croient que les risques de l’IA dépassent ses avantages, et les trois quarts souhaitent qu’elle soit mieux réglementée, ce que l’équipe de recherche attribue à une faible connaissance de la technologie ainsi qu’un manque de compétences et d’expérience pratique sur le sujet.

Les données montrent un manque de compétence et de confiance qui pourrait avoir des répercussions économiques sur les investissements récents en IA du fédéral et du secteur privé. Le projet sur la littéracie des données du CCN tente de combler ce déficit au moyen d’un accord national d’atelier qui définit les compétences essentielles et les voies d’apprentissage pour la population canadienne.

La maîtrise (ou littéracie) des données englobe les connaissances et les compétences nécessaires pour comprendre, utiliser et évaluer de manière critique les données et les technologies d’IA dans la vie quotidienne et au travail. Alors que le Canada poursuit ses investissements multisectoriels dans l’IA, le renforcement de la confiance du public nécessitera une formation accessible, une expérience pratique et une communication claire sur les avantages et les risques des nouveaux outils. Le projet de maîtrise des données du CCN s’élargira afin d’aider la population canadienne à participer aux prochains ateliers et de contribuer à l’élaboration de normes nationales pour une utilisation responsable et éclairée de l’IA. En aidant le public à acquérir et développer des compétences de base, le Canada peut combler le manque de confiance et faire en sorte que la population entière puisse contribuer à l’avenir numérique du pays.

Le CCN et l’Inclusive Design Research Centre de l’université Ontario College of Art & Design (OCAD) travaillent actuellement à l’élaboration d’une spécification technique pour un indicateur de confiance qui permettra de combattre la discrimination statistique contre les groupes minoritaires et de composer avec les données aberrantes dans le raisonnement statistique mécanisé des outils décisionnels alimentés par l’IA.

L’objectif de la spécification est d’alerter les exploitants d’IA lorsque le scénario, le groupe ou l’individu au sujet duquel une décision doit être prise se situe en dehors de l’intervalle de valeurs sur lesquelles le modèle a été formé, ce qui signale qu’il ne faut pas faire confiance à l’IA pour prendre des décisions dans ce contexte.

Le projet est encadré par notre Programme d’IAGD et son achèvement est prévu d’ici mai 2026.

Pour en savoir davantage sur le projet, communiquer avec Alison Aquilina à l’adresse alison.aquilina@ccn.ca.

Un nouveau rapport publié par le Schwartz Reisman Institute for Technology and Society (SRI) de l’Université de Toronto trace une feuille de route pour les marchés de la réglementation de l’IA. Le rapport propose un modèle de gouvernance de l’IA selon lequel les gouvernements accordent des licences à des fournisseurs de services de réglementation (FSR) privés pour auditer les développeurs d’IA.

Le rapport s’appuie sur les réflexions de sommités issues de tous les secteurs et réunies par le SRI pour collaborer à la conception d’un modèle pour les marchés réglementaires. À l’issue de l’atelier, trois conditions préalables ont été mises en évidence : une capacité technique gouvernementale plus forte, une infrastructure de marché cohérente (licences et assurances) et une stratégie de mise en œuvre comportant notamment des projets pilotes en monde réel.

Pour les entreprises qui déploient des solutions alimentées par l’IA, le rapport signale que la surveillance par des tiers concurrents pourrait bientôt passer d’un atout à une attente réglementaire, créant à la fois une pression en matière de conformité et un marché pour les organismes d’évaluation de premier plan.

En apprendre davantage sur le SRI ou lire le rapport (en anglais).

C’est avec plaisir que nous annonçons le lancement du pôle de normalisation en matière d’IA et de gouvernance des données. Le site, muni d’une base de données de normes du domaine, propose aussi une pléthore de ressources pour aider les micro, petites et moyennes entreprises à se repérer dans la normalisation. 

Pour assurer la pertinence du pôle, nous cherchons vos retours sur les contenus à inclure. Il reste encore du travail pour optimiser les contenus du pôle, et vos collaborations nous sont précieuses.

À mesure que la base de données est alimentée, les internautes y trouveront des mises à jour régulières mettant en lumière de nouvelles normes, études de cas et possibilités d’apprentissage. Nous encourageons les utilisatrices et utilisateurs à en explorer le contenu, à s’abonner à notre infolettre pour connaître les dernières nouveautés et à publier leurs commentaires afin de contribuer à l’élaboration des ressources futures. Ensemble, nous pouvons faire du Pôle de normalisation en AIDG une référence pérenne pour s’orienter dans le paysage en constante évolution de l’IA et de la gouvernance des données au Canada.

L’année dernière, le Secrétariat du Conseil du Trésor (SCT) a lancé des consultations publiques sur la première stratégie canadienne en matière d’IA pour la fonction publique fédérale.  Les commentaires des participantes et participants portaient sur quatre aspects principaux : l’approvisionnement, les pratiques durables, le talent et la formation, et l’utilisation éthique.

L’atelier de l’SO/IEC sur l’intelligence artificielle (IA), qui a eu lieu le 11 décembre 2024, comprenait des présentations clés sur la sécurité de l’IA. Surdas Mohit, directeur à ISDE, a présenté les initiatives clés de l’Institut canadien de la sécurité de l’intelligence artificielle.

Le gouvernement canadien investira jusqu’à 2 milliards de dollars dans l’amélioration de l’infrastructure de calcul souveraine par l’IA. Dans le cadre de ces efforts, le Défi de la capacité de calcul pour l’IA vise à bâtir et à élargir des centres de données d’IA pour assurer la souveraineté et la sécurité des données.

La Commission européenne a publié le premier projet de code de bonnes pratiques sur l’IA à usage général.  
Environ 1 000 parties prenantes, y compris des représentantes et représentants d’États membres de l’Union européenne et des observatrices et observateurs internationaux, ont participé à des réunions de groupe de travail pour discuter du projet.

Le 12 novembre dernier, le gouvernement du Canada a annoncé la création de l’Institut canadien de la sécurité de l’intelligence artificielle. Armé d’une enveloppe de 50 millions de dollars sur cinq ans, l’Institut contribuera aux démarches mondiales pour sécuriser l’IA, surtout en ce qui concerne la cybersécurité et la sécurité nationale.

Le 22 octobre, la vice-première ministre Chrystia Freeland a annoncé le lancement de deux nouveaux programmes visant à faire évoluer l’écosystème de l’IA au Canada : l’Initiative régionale en matière d’intelligence artificielle de 200 millions de dollars visant à accélérer l’adoption de l’IA et le Programme d’aide à l’IA de 100 millions de dollars à l’intention des PME qui mettent au point des solutions d’IA générative.

Le gouvernement du Canada a mis en place de nouvelles lignes directrices pour les membres du personnel qui utilisent des outils d’IA générative tels que ChatGPT ou Copilot dans le cadre de leur travail, afin de veiller à ce que la technologie soit utilisée de manière responsable.

L’organe consultatif de haut niveau sur l’IA des Nations unies a publié le rapport 
« Gouverner l’intelligence artificielle au bénéfice de l’humanité ». Le rapport se penche sur la prolifération des normes d’IA adoptées par divers organismes mondiaux, comme l’IEEE, l’ISO/IEC et l’UIT, et souligne l’absence d’un langage commun entre ces normes.

Les technologies numériques comme l’intelligence artificielle (IA) recèlent un potentiel immense pour le Canada et pour le monde, mais seulement si elles sont développées et utilisées de manière responsable. Les normes et les évaluations (ou autres assurances) de conformité sont ici vitales. C’est pourquoi le CCN mène la charge afin d’établir de telles normes et de veiller à leur bonne application.

Le programme, intitulé Assessing Risks and Impacts of AI (ARIA), a pour but d’aider les organismes et les personnes à déterminer si une technologie d’IA donnée sera valide, fiable, sûre, sécuritaire et équitable une fois déployée. ARIA s’intéressera à l’IA au-delà du modèle et évaluera les systèmes en contexte, y compris ce qui arrive lorsque les gens interagissent avec l’IA en situation concrète.

Le CCN a visité les bureaux de son partenaire européen, le CEN-CENELEC, pour discuter des concertations autour de l’IA et d’autres secteurs du numérique. Organisme de normalisation de l’UE, le CEN-CENELEC coordonne les travaux normatifs européens et réalise des projets de normalisation encadrés par la Loi sur l’IA de l’UE.

Le 21 mai 2024, le Conseil de l’Union européenne a approuvé la Loi sur l’IA, la première législation globale sur l’IA au monde. Cette loi adopte une approche fondée sur les risques, en appliquant des réglementations plus strictes aux systèmes d’IA à risque élevé afin de garantir leur sécurité et de protéger les droits fondamentaux.

Les députés ont approuvé la législation, convenue lors des négociations avec les États membres en décembre 2023, par 523 votes pour, 46 contre et 49 abstentions. Ce règlement vise à protéger les droits fondamentaux, la démocratie, l’État de droit et la durabilité environnementale contre les risques liés à l’intelligence artificielle (IA), tout en encourageant l’innovation et en faisant de l’Europe un acteur de premier plan dans ce domaine. Le règlement établit des obligations pour les systèmes d’IA en fonction de leurs risques potentiels et de leur niveau d’impact.

L’ISO/IEC 42001 est la première norme mondiale relative aux systèmes de management de l’IA. Elle fournit des lignes directrices pour l’établissement, la mise en œuvre, le maintien et l’amélioration continue d’un système de management de l’intelligence artificielle au sein des organisations.