Pannes, responsabilité légale et attaques de cybercriminels sont des défis qui restent à résoudre selon une nouvelle enquête
Les secteurs suisses de l'énergie et de la santé emploient déjà fréquemment l'intelligence artificielle et vont continuer à étendre son utilisation dans les années à venir. C'est le résultat d'une enquête menée par le think tank indépendant Pour Demain auprès de spécialistes de près de 40 entreprises issus des secteurs de l'énergie et de la santé. Les personnes interrogées perçoivent un grand potentiel dans ces technologies, mais constatent aussi des défis considérables liés aux pannes ou aux questions de responsabilité.
ChatGPT est l’arbre qui cache la forêt en matière d’intelligence artificielle (IA): deux secteurs critiques pour le bien-être de la population suisse, la santé et l'énergie, utilisent déjà l'IA au quotidien, qu'il s'agisse de prévoir la disponibilité de l'énergie ou d'algorithmes de classification des lésions cutanées.
La Suisse ne dispose cependant pas encore d'une vue d'ensemble de l'utilisation de l'IA au sein de l'économie et de la société. C'est pourquoi le think tank Pour Demain a mené des entretiens auprès d'experts de 38 entreprises des secteurs de l'énergie et de la santé dans le cadre d'un projet pilote.
L'enquête constate une tendance à la hausse du recours à ces technologies: quatre personnes interrogées sur cinq s'attendent à ce que l'IA soit plus largement utilisée dans leur secteur d’activité au cours des deux prochaines années.
Potentiel dans la détection du cancer et la maintenance des centrales électriques
Les personnes interrogées mettent en avant de nombreux avantages, comme l'amélioration des processus décisionnels professionnels dans la pratique clinique ou les analyses prédictives pour les centrales électriques et les réseaux électriques. Plusieurs hôpitaux utilisent l'IA aujourd’hui pour l’analyse d'images en radiologie et en dermatologie, tandis que les fournisseurs d'énergie l’emploient par exemple pour les prévisions de production et la maintenance des centrales électriques.
Des défis et des risques importants
Les experts interrogés sont toutefois préoccupés par les défis et les risques importants qui découlent des systèmes d'IA: pannes inattendues, cyberattaques, discrimination, questions de responsabilité légale ou recommandations inexplicables.
Un appel pour des conditions-cadres claires
Un cadre et des directives claires en matière d'IA au niveau économique et politique, ainsi qu’une protection des données et une transparence accrues sont les aspects les plus souvent cités en ce qui concerne les mesures réglementaires souhaitables. Les médecins nécessitent davantage de clarté sur les questions de responsabilité lors de l'utilisation de systèmes d'IA qui ont un impact direct sur la santé des patients. Les gestionnaires de réseaux électriques ont pour leur part besoin de directives claires pour échanger leurs données avec d'autres acteurs en toute confiance.
Recommandations pour le monde politique et l’économie
Sur la base de cette première enquête, le think tank Pour Demain a élaboré les recommandations suivantes:
Monitoring de l'IA plutôt qu’un vol sans visibilité: la Confédération et les cantons ont besoin d'une meilleure compréhension de l'utilisation, des opportunités et des risques de l'IA en Suisse. Ce sujet doit faire l'objet d'un monitoring à l'échelle nationale, de la même manière que pour les maladies ou l'énergie, pour lesquelles des chiffres clés sont régulièrement collectés et publiés. Cela permettrait de mieux promouvoir les innovations et de maîtriser plus rapidement les risques.
Examen de la législation actuelle: les lois existantes doivent être examinées pour déterminer si elles sont adaptées à l'utilisation de systèmes d'IA dans les secteurs de l'énergie et de la santé. L'accent devrait être mis sur les systèmes disruptifs tels que ChatGPT. Les décideurs politiques peuvent contribuer à répondre aux préoccupations telles que l'explicabilité, la discrimination ou les pannes imprévisibles par des lignes directrices et ainsi réduire l'incertitude pour les organisations qui souhaitent utiliser l'IA de manière responsable.
Définition de normes claires en matière d'IA: les entreprises et les associations faîtières devraient soutenir les processus de normalisation en cours pour favoriser la confiance en matière de développement, acquisition et utilisation de l'IA. L'administration fédérale peut accompagner et favoriser ces processus au niveau national et international.
Promouvoir l'éducation à l'IA: les entreprises et les organisations faîtières doivent continuer à développer la formation à l'IA. Les experts en énergie et en santé interrogés constatent par ailleurs un manque de connaissances sur le sujet chez les décideurs politiques. Une formation adéquate pourrait contribuer à une utilisation plus responsable des technologies d'IA au niveau national.
Documents
Contact:
David Marti, chargé de programme en intelligence artificielle Pour Demain
david.marti (at) pourdemain.ch
À propos de Pour Demain
Pour Demain est un think tank à but non lucratif qui sert d'intermédiaire entre la science, la politique et la société. Nous abordons des thèmes jusqu'ici négligés, comme l'intelligence artificielle, et développons des propositions concrètes, basées sur la science - avec un impact positif pour la Suisse et au-delà. www.pourdemain.ch