Télécharger
En bref
Les systèmes basés sur l'intelligence artificielle (IA), tels que les moteurs de recherche web et les chatbots, sont de plus en plus utilisés par les citoyen·nes suisses pour trouver des informations sur des sujets politiques, par exemple dans le cadre de référendums et d'élections. Il en résulte à la fois de nouvelles possibilités et des risques pour la démocratie suisse. L'un des principaux risques est la personnalisation de la fourniture d'informations, dans la mesure où un système fournit des résultats différents à différents utilisateur·rices, par exemple en fonction de leur localisation ou de la langue de saisie de l'utilisateur·rice. Dans le cas d'une démocratie directe multilingue, un tel traitement variable peut conduire à des divergences dans le spectre d'informations perçu entre les régions linguistiques, qui doivent être prises au sérieux.
Le livre blanc illustre ces spectres d'information inégaux à l'aide d'une étude de cas concernant la votation populaire sur la « loi sur la protection du climat » en juin 2023. Pour ce faire, des requêtes de recherche sur Google - le moteur de recherche utilisé par 86% de la population suisse - ont été évaluées en allemand, français et italien. Les résultats montrent que, selon la langue, Google donne des priorités différentes aux différents types de sources d'information et de points de vue sur la votation. Les utilisateur·rices voient ainsi apparaître dans les résultats de recherche un choix très inégal de sources d'information et de points de vue sur l'objet de la votation. Cette inégalité de traitement a deux dimensions :
- La possibilité pour les citoyen·nes suisses d'obtenir une représentation objective de l'éventail des positions politiques sur certains sujets politiques est compromise. Il s'agit pourtant d'une condition fondamentale pour la libre formation de l'opinion garantie par la Constitution et pour la démocratie directe en Suisse.
- Les partis ou les politicien·nes peuvent être favorisés ou désavantagés par rapport à certains thèmes politiques - sans aucune transparence sur la manière dont ces systèmes basés sur l'IA donnent la priorité aux informations pour les électeur·rices potentiel·les.
Les systèmes basés sur l'IA peuvent donc limiter la possibilité pour les citoyen·nes de se former librement une opinion en hiérarchisant inégalement les informations politiques et les sources d'information sur la base de critères non transparents, remettant ainsi en question le fonctionnement de la démocratie suisse.
4 défis principaux
Les systèmes basés sur l'IA nous posent, entre autres, les défis clés suivants :
- ils peuvent accentuer les différences d'information entre les citoyen·nes;
- ils peuvent restreindre davantage la diversité des médias et des opinions politiques ;
- ils peuvent influencer la manière dont les partis et les politicien·nes sont associé·es à certains thèmes ;
- ils peuvent exposer les utilisateur·rices à des informations erronées ou trompeuses.
4 recommandations
Pour ce faire, les auteur·rices proposent les mesures suivantes :
A propos du projet
Ce livre blanc se base sur les recherches des auteur·rices, ainsi que sur des entretiens avec des parties prenantes et un "Franxini Fireside Chat" menés l'été dernier avec des représentants des sciences, de la politique, de l'administration, des médias et de la société civile dans le cadre du projet Innovation Hub "AI-driven Information Inequalities in Switzerland in the Context of Popular Votes" de l'association Reatch. La rédaction du livre blanc et le développement de propositions de solutions concrètes relevaient de la responsabilité et de la compétence décisionnelle des auteur·rices impliqué·es, sous la direction de Mykola Makhortykh.
Auteur·rice·s
Institut d'études de la communication et des médias, Université de Berne. Je m'intéresse à ce sujet parce que les systèmes pilotés par l'IA, tels que les moteurs de recherche, créent de nombreuses possibilités, mais aussi des risques pour l'information des citoyens. Compte tenu de l'impact croissant de l'IA sur les sociétés du monde entier, il est essentiel de comprendre comment exploiter les possibilités qu'elle offre tout en minimisant les risques.
Groupe d'informatique sociale, Université de Zurich. Je suis spécialiste de la communication informatique et, dans mon travail, je me concentre sur la communication politique en ligne et sur les effets de la curation algorithmique du contenu. Ce projet fait le lien entre ces deux domaines de recherche qui m'intéressent, permettant, d'une part, d'exploiter les façons dont les informations politiquement pertinentes sont présentées en ligne et, d'autre part, la façon dont les algorithmes de recherche affectent leur circulation.
Institut d'études sur la communication et les médias, Université de Berne. Je suis programmeuse scientifique qui s'intéresse au développement et à la maintenance de systèmes d'IA pour différents secteurs sociaux. En participant au projet, je souhaite mieux comprendre les considérations éthiques potentielles liées à l'adoption de systèmes pilotés par l'IA dans le contexte suisse et la manière dont ces considérations peuvent être abordées.
Co-lead du projet Franxini. Je suis titulaire d'un doctorat en études américaines, présidente d'Actionuni et membre du comité directeur d'Eurodoc. J'ai étudié la langue et la littérature anglaises, le cinéma, la philosophie et les études de genre à l'Université de Zurich.
Les articles publiés sur le blog de Reatch reflètent l'opinion personnelle de leurs auteurs et autrices et ne correspondent pas nécessairement à celle de Reatch ou de ses membres.
Comments (0)