Information inequalities1

Votations populaires et algorithmes : une hiérarchisation opaque des informations politiques

Il est de notoriété publique que les systèmes pilotés par l'intelligence artificielle (IA), incluant les moteurs de recherche comme Google ou Chat-GPT, ont une grande influence sur notre société. Mais la manière exacte dont cette influence se manifeste est relativement opaque. Il est pourtant crucial, dans le cadre de la libre formation de l’opinion dans une démocratie, de savoir quelles informations sont mises à disposition de quel public. Il est donc important d'examiner de près les systèmes contrôlés par l'IA dans le contexte des référendums et des élections. Quelles informations l'IA montre-t-elle aux citoyens des différentes régions de Suisse ? Une analyse de la votation sur la loi sur la protection du climat de l'été dernier montre les risques et la nécessité d'agir.

Télécharger

En bref

Les systèmes basés sur l'intelligence artificielle (IA), tels que les moteurs de recherche web et les chatbots, sont de plus en plus utilisés par les citoyen·nes suisses pour trouver des informations sur des sujets politiques, par exemple dans le cadre de référendums et d'élections. Il en résulte à la fois de nouvelles possibilités et des risques pour la démocratie suisse. L'un des principaux risques est la personnalisation de la fourniture d'informations, dans la mesure où un système fournit des résultats différents à différents utilisateur·rices, par exemple en fonction de leur localisation ou de la langue de saisie de l'utilisateur·rice. Dans le cas d'une démocratie directe multilingue, un tel traitement variable peut conduire à des divergences dans le spectre d'informations perçu entre les régions linguistiques, qui doivent être prises au sérieux.

Le livre blanc illustre ces spectres d'information inégaux à l'aide d'une étude de cas concernant la votation populaire sur la « loi sur la protection du climat » en juin 2023. Pour ce faire, des requêtes de recherche sur Google - le moteur de recherche utilisé par 86% de la population suisse - ont été évaluées en allemand, français et italien. Les résultats montrent que, selon la langue, Google donne des priorités différentes aux différents types de sources d'information et de points de vue sur la votation. Les utilisateur·rices voient ainsi apparaître dans les résultats de recherche un choix très inégal de sources d'information et de points de vue sur l'objet de la votation. Cette inégalité de traitement a deux dimensions :

  • La possibilité pour les citoyen·nes suisses d'obtenir une représentation objective de l'éventail des positions politiques sur certains sujets politiques est compromise. Il s'agit pourtant d'une condition fondamentale pour la libre formation de l'opinion garantie par la Constitution et pour la démocratie directe en Suisse.
  • Les partis ou les politicien·nes peuvent être favorisés ou désavantagés par rapport à certains thèmes politiques - sans aucune transparence sur la manière dont ces systèmes basés sur l'IA donnent la priorité aux informations pour les électeur·rices potentiel·les.

Les systèmes basés sur l'IA peuvent donc limiter la possibilité pour les citoyen·nes de se former librement une opinion en hiérarchisant inégalement les informations politiques et les sources d'information sur la base de critères non transparents, remettant ainsi en question le fonctionnement de la démocratie suisse.

4 défis principaux

Les systèmes basés sur l'IA nous posent, entre autres, les défis clés suivants :

  • ils peuvent accentuer les différences d'information entre les citoyen·nes;
  • ils peuvent restreindre davantage la diversité des médias et des opinions politiques ;
  • ils peuvent influencer la manière dont les partis et les politicien·nes sont associé·es à certains thèmes ;
  • ils peuvent exposer les utilisateur·rices à des informations erronées ou trompeuses.

4 recommandations

Pour ce faire, les auteur·rices proposent les mesures suivantes : 

  • Définition d'un cadre réglementaire commun pour les systèmes pilotés par l'IA dans le contexte de la prise de décision politique grâce à la participation des expert·es techniques et des acteur·rices pertinent·es de la science, de la société civile et de la politique.
  • Création d'une série d'indicateurs de performance (KPI) pour mesurer l'impact des systèmes pilotés par l'IA dans le contexte de la politique suisse.
  • Mise en place d’une infrastructure permettant un suivi cohérent de l'impact des systèmes pilotés par l'IA dans le contexte de la prise de décision politique en Suisse, afin d'accroître la sensibilisation du public et la transparence à ce sujet pour les citoyen·es.
  • Réalisation d’études empiriques supplémentaires sur la manière dont les systèmes pilotés par l'IA traitent les questions politiques en Suisse et sur la manière dont différents groupes de citoyen·nes suisses utilisent ces systèmes.
  • A propos du projet

    Ce livre blanc se base sur les recherches des auteur·rices, ainsi que sur des entretiens avec des parties prenantes et un "Franxini Fireside Chat" menés l'été dernier avec des représentants des sciences, de la politique, de l'administration, des médias et de la société civile dans le cadre du projet Innovation Hub "AI-driven Information Inequalities in Switzerland in the Context of Popular Votes" de l'association Reatch. La rédaction du livre blanc et le développement de propositions de solutions concrètes relevaient de la responsabilité et de la compétence décisionnelle des auteur·rices impliqué·es, sous la direction de Mykola Makhortykh.

    Auteur·rice·s

    Institut d'études de la communication et des médias, Université de Berne. Je m'intéresse à ce sujet parce que les systèmes pilotés par l'IA, tels que les moteurs de recherche, créent de nombreuses possibilités, mais aussi des risques pour l'information des citoyens. Compte tenu de l'impact croissant de l'IA sur les sociétés du monde entier, il est essentiel de comprendre comment exploiter les possibilités qu'elle offre tout en minimisant les risques.

    Groupe d'informatique sociale, Université de Zurich. Je suis spécialiste de la communication informatique et, dans mon travail, je me concentre sur la communication politique en ligne et sur les effets de la curation algorithmique du contenu. Ce projet fait le lien entre ces deux domaines de recherche qui m'intéressent, permettant, d'une part, d'exploiter les façons dont les informations politiquement pertinentes sont présentées en ligne et, d'autre part, la façon dont les algorithmes de recherche affectent leur circulation.

    Institut d'études sur la communication et les médias, Université de Berne. Je suis programmeuse scientifique qui s'intéresse au développement et à la maintenance de systèmes d'IA pour différents secteurs sociaux. En participant au projet, je souhaite mieux comprendre les considérations éthiques potentielles liées à l'adoption de systèmes pilotés par l'IA dans le contexte suisse et la manière dont ces considérations peuvent être abordées.

    Hannah Schoch

    Auteur

    Responsable du projet Franxini

    Lead du projet Franxini. Je suis titulaire d'un doctorat en études américaines, présidente d'Actionuni et membre du comité directeur d'Eurodoc. J'ai étudié la langue et la littérature anglaises, le cinéma, la philosophie et les études de genre à l'Université de Zurich.

    Les articles publiés sur le blog de Reatch reflètent l'opinion personnelle de leurs auteurs et autrices et ne correspondent pas nécessairement à celle de Reatch ou de ses membres.

    Pour commenter, sélectionner plus de 20 caractères dans le texte et cliquer sur la bulle.

    Les remarques utiles sont les bienvenues. Les commentaires sont modérés.