Surveillance de l'intelligence artificielle : saisir les opportunités, minimiser les risques


Pour Demain et le projet Franxini de Reatch présentent une proposition pour un monitoring de l'intelligence artificielle (IA) en Suisse. Le livre blanc a été élaboré pendant la session d'été 2022 dans le cadre d'un échange ouvert entre les conseillers/conseillères nationaux/nationales et les représentant-e-s de la science, de l'administration et de l'économie.


Les applications de l'intelligence artificielle (IA) sont utilisées dans un nombre croissant de domaines de la vie et influencent massivement la société au cours des prochaines décennies. D'une part, elles ont le potentiel de renforcer significativement le bien commun, par exemple en améliorant les diagnostics médicaux. D'autre part, les systèmes d'IA peuvent causer des dommages matériels et/ou immatériels aux biens ou aux personnes.

La Confédération peut mieux comprendre les opportunités et les risques de l'IA si elle suit directement l'évolution du secteur de l'IA. Nous recommandons à cet effet de lancer rapidement des projets pilotes de suivi de l'IA afin de recenser systématiquement les capacités et les effets actuels des applications de l'IA et de garantir ainsi en temps utile une base factuelle pertinente pour les décisions politiques.


Quatre objectifs fondamentaux doivent être atteints grâce à un monitoring de l'IA

  1. Identifier les opportunités : Les domaines qui peuvent profiter des futures applications de l'IA sont mis au jour.

  2. Classer les risques : Les risques de sécurité des applications de l'IA peuvent être saisis.

  3. Instaurer de la transparence : Les décisions quotidiennes prises par des systèmes d'IA et non par des personnes sont rendues publiques.

  4. Créer des bases de décision : La société et la politique disposent d'une meilleure base pour décider de l'utilisation de l'IA.


Les recommandations d'action concrètes sont les suivantes

  • Procéder par étapes via des projets pilotes afin d'évaluer et d'optimiser, en se basant sur les premiers résultats, l'utilité concrète de l'IA pour la politique et la société.

  • Projet pilote 1 "Infrastructures critiques" : un premier projet pilote devrait être mis en œuvre dans un domaine où la sécurité est critique, comme la santé publique, car l'intérêt général y est particulièrement concerné.

  • Projet pilote 2 "Méta-monitoring" : ce projet clarifie les domaines thématiques dans lesquels un futur monitoring est particulièrement nécessaire et les méthodes appropriées à cet effet.


Une répartition claire des rôles des acteurs est décisive pour la réussite de la mise en œuvre d'un monitoring de l'IA

  • Administration : elle doit avoir la souveraineté sur les projets de monitoring afin que les résultats du monitoring soient adaptés au processus de décision politique.

  • Science : grâce à leur expertise en matière d'IA, les hautes écoles suisses peuvent mettre en œuvre des projets de monitoring de manière efficace et interdisciplinaire pour le compte de l'administration.

  • Économie : elle profite du monitoring par une demande accrue d'applications d'IA dans des domaines qui présentent un potentiel d'application élargi. En même temps, elle est davantage sensibilisée aux risques, comme c'est le cas aujourd'hui dans le domaine de la cybersécurité grâce au Centre national pour la cybersécurité.