Signal 01
Le Canada pousse la sécurité de l’IA vers une réponse internationale aux incidents
Le Canada cherche à faire évoluer la gouvernance de l’IA au-delà des règles nationales vers une coordination internationale. Le ministre de l’Intelligence artificielle et de l’Innovation numérique, Evan Solomon, affirme que les gouvernements du G7 et du G20 discutent de la déclaration des incidents liés à l’IA et d’une approche pragmatique de la réglementation, alors que des agents d’IA de plus en plus performants opèrent au-delà des frontières. La question émergente est de savoir si la gouvernance de l’IA commence à passer des principes et de la réglementation vers la détection, la déclaration et la réponse coordonnée.
Ce qui s’est passé
Vendredi, Solomon a déclaré que le Canada travaillait avec ses partenaires du G7 et du G20 sur la sécurité de l’IA et la déclaration des incidents, évoquant le besoin de quelque chose qui ressemblerait à un « téléphone rouge » entre les gouvernements alors que des systèmes d’IA de plus en plus performants créent des risques pouvant se propager rapidement entre les pays. Ces commentaires s’inscrivent dans des discussions plus larges entre le Canada et ses partenaires internationaux sur la sécurité de l’IA, l’évaluation des modèles, la vérification et un éventuel mécanisme de stabilité technologique. Le Canada examine également le suivi des incidents graves liés à l’IA sur son propre territoire. Sa récente consultation sur la transparence de l’IA demandait précisément comment définir les incidents graves, qui devrait les déclarer, quelles informations devraient être recueillies et comment les approches canadiennes pourraient être compatibles avec les pratiques internationales émergentes.
Pourquoi c’est important pour le Canada
Pour le Canada, l’importance réside dans le passage d’une discussion sur l’IA responsable principalement fondée sur des principes et des normes vers la création de mécanismes opérationnels permettant d’intervenir lorsque des systèmes d’IA échouent. La cybersécurité offre un parallèle utile. La gestion du cyberrisque a fini par nécessiter la déclaration des incidents, le partage de renseignements et des réponses coordonnées parce que les menaces traversaient les frontières organisationnelles et nationales. Des systèmes d’IA de plus en plus autonomes pourraient créer un défi comparable. La Stratégie nationale sur l’intelligence artificielle du Canada prévoit déjà une collaboration avec les entreprises d’IA de pointe et les partenaires internationaux sur la sécurité de l’IA et la cybersécurité, ainsi que la surveillance et la déclaration des incidents et des activités des systèmes d’IA.
Ce que CCN observe
Le développement important n’est pas un nouveau débat sur la nécessité de réglementer l’IA. Il s’agit du début d’une conversation beaucoup plus opérationnelle sur ce que les gouvernements et les entreprises doivent faire lorsque des systèmes d’IA avancés causent réellement un problème. La cybersécurité a développé la déclaration des incidents, le partage de renseignements sur les menaces et la réponse coordonnée parce que les menaces numériques ne respectaient pas les frontières organisationnelles ou nationales. L’IA pourrait maintenant évoluer vers un modèle similaire. Si la gouvernance internationale de l’IA commence à relier la déclaration des incidents, la surveillance des systèmes, l’évaluation des modèles et l’alerte précoce, les entreprises pourraient éventuellement avoir besoin de capacités de réponse aux incidents liés à l’IA qui sembleront de plus en plus familières aux responsables de la cybersécurité. Le signal à surveiller est de savoir si la gouvernance de l’IA passe des principes vers la détection, la déclaration et la réponse coordonnée.
Ce que les dirigeants devraient envisager
Les dirigeants devraient commencer à se demander si leur organisation serait aujourd’hui capable de reconnaître, d’enquêter sur et de documenter un incident grave lié à l’IA. À mesure que les entreprises déploient des agents d’IA capables d’accéder aux données, d’utiliser des outils et d’agir dans les systèmes de l’entreprise, la gouvernance exige de plus en plus une visibilité sur ce que ces systèmes ont fait, pourquoi ils l’ont fait et quelles informations ou quels systèmes ont été touchés. Il n’existe pas encore de régime international unifié de déclaration, mais la consultation canadienne examine déjà qui devrait déclarer les incidents graves, comment tenir compte de la confidentialité et de la responsabilité, et si des mesures réglementaires, des normes ou des solutions techniques pourraient éventuellement être nécessaires.
À surveiller
Il faudra surveiller si les discussions du G7 ou du G20 évoluent vers un mécanisme défini de déclaration internationale des incidents ou d’alerte précoce et si le concept proposé de stabilité technologique obtient un appui plus large. Les détails pratiques seront déterminants : ce qui constitue un incident grave lié à l’IA, les organisations qui devraient le déclarer, le caractère volontaire ou obligatoire de la déclaration, la circulation de l’information entre les pays et la possibilité que les gouvernements s’appuient sur les mécanismes internationaux existants plutôt que de créer des systèmes parallèles. La consultation canadienne sur la transparence de l’IA, récemment terminée, est également importante puisqu’elle relie explicitement le suivi des incidents graves à l’utilisation croissante des agents d’IA.
Source : https://globalnews.ca/news/12073335/g7-g20-pragmatic-ai-regulation/