Signal 02 · · CCN Intelligence
Le Canada et l’Allemagne font un pari majeur sur une intelligence artificielle plus sûre
Un engagement pouvant atteindre 300 millions de dollars en faveur de LawZero montre que la sécurité de l’intelligence artificielle devient une infrastructure stratégique plutôt qu’une préoccupation secondaire de la recherche.
Ce qui s’est passé
Le Canada et l’Allemagne ont annoncé un engagement pouvant atteindre 300 millions de dollars en faveur de LawZero, un organisme de recherche sans but lucratif établi à Montréal et fondé par Yoshua Bengio. LawZero développe Scientist AI, un système conçu pour détecter les comportements potentiellement dangereux d’agents autonomes avancés fondés sur l’intelligence artificielle. Ses travaux visent à créer des systèmes d’intelligence artificielle plus transparents, plus fiables et plus résistants aux comportements trompeurs ou incontrôlés. Cette annonce coïncide avec la tenue de l’événement ALL IN à Montréal, qui rassemble plus de 6 500 dirigeants, investisseurs, chercheurs et décideurs du milieu de l’intelligence artificielle afin de discuter de commercialisation et d’adoption. Bengio a également averti que les préoccupations du public concernant la sécurité de l’intelligence artificielle pourraient bientôt atteindre un point où les gouvernements se sentiront obligés d’agir beaucoup plus rapidement.
Pourquoi c’est important pour le Canada
Le Canada fait de la sécurité de l’intelligence artificielle une capacité stratégique au même titre que son développement. L’ampleur et la dimension internationale de cet engagement montrent que la recherche sur la sécurité n’est plus considérée uniquement comme une question universitaire ou éthique. Elle devient une composante de l’infrastructure nécessaire pour concevoir et déployer des systèmes d’intelligence artificielle toujours plus puissants. Cette évolution donne au Canada l’occasion de jouer un rôle de premier plan dans un domaine où il jouit déjà d’une crédibilité internationale. Le Canada ne pourra peut être pas égaler les dépenses informatiques des plus grandes entreprises technologiques américaines, mais il pourrait se bâtir une position importante dans l’assurance, la mise à l’essai, la gouvernance et les technologies de sécurité liées à l’intelligence artificielle. Cette annonce révèle également une tension croissante. Les gouvernements souhaitent accélérer l’adoption de l’intelligence artificielle et en tirer de meilleurs rendements économiques, tout en faisant face à des indications selon lesquelles des systèmes plus autonomes pourraient créer des risques que les mécanismes de contrôle actuels ne permettent pas de gérer adéquatement.
Ce que CCN observe
L’avantage concurrentiel en intelligence artificielle dépendra de plus en plus d’un contrôle démontrable, et non seulement de la capacité des systèmes. Les organisations capables de prouver comment leurs systèmes sont testés, supervisés et limités seront mieux placées pour favoriser leur adoption en entreprise, accéder aux marchés d’approvisionnement et répondre aux nouvelles exigences réglementaires.
Ce que les dirigeants devraient envisager
Les organisations ne devraient pas attendre l’adoption de nouvelles lois avant de renforcer leur gouvernance de l’intelligence artificielle. Toute entreprise qui déploie des agents d’intelligence artificielle devrait savoir à quelles ressources ces systèmes peuvent accéder, quelles actions ils peuvent accomplir, comment leur comportement est surveillé et qui demeure responsable lorsqu’un problème survient. L’assurance liée à l’intelligence artificielle pourrait bientôt devenir aussi importante pour son adoption en entreprise que la capacité des modèles eux mêmes. Les équipes responsables de l’approvisionnement devraient commencer à demander aux fournisseurs des preuves de mise à l’essai, de supervision, de contrôles de sécurité et de limites imposées aux actions autonomes, plutôt que de se fier à des affirmations générales concernant une intelligence artificielle responsable. Une gouvernance solide devrait être considérée comme un moyen de faciliter l’adoption. Les organisations pourront utiliser des systèmes plus puissants avec davantage de confiance lorsqu’elles seront en mesure de démontrer où se situent le contrôle, la responsabilité et les possibilités d’intervention.
À surveiller
Il faudra surveiller la structure et les étapes associées à l’engagement financier du Canada et de l’Allemagne, notamment le montant réellement confirmé, le calendrier des versements et les résultats attendus de LawZero. Il faudra également suivre les annonces provenant de l’événement ALL IN concernant l’infrastructure d’intelligence artificielle, la commercialisation, la sécurité, la capacité souveraine et l’adoption par les entreprises canadiennes. La question politique plus large consiste à déterminer si le Canada commencera à relier les investissements publics, l’approvisionnement et l’adoption de l’intelligence artificielle à des exigences mesurables en matière de sécurité et de gouvernance.
Source : LawZero