Conny schneider xu TJZ7u D7 PI unsplash

Monitoring von Künstlicher Intelligenz (KI): Chancen nutzen, Risiken minimieren

Das Franxini-Projekt von Reatch präsentiert in Kollaboration mit Pour Demain, einem Think-Tank mit KI-Schwerpunkt, einen Vorschlag für ein Monitoring von künstlicher Intelligenz (KI) in der Schweiz. Das Whitepaper ist während der Sommersession 2022 in einem offenen Austausch zwischen Nationalrät*innen und Vertreter*innen aus der Wissenschaft, Verwaltung und Wirtschaft erarbeitet worden.

Zusammenfassung

Anwendungen von künstlicher Intelligenz (KI) kommen in immer mehr Lebensbereichen zum Einsatz und werden die Gesellschaft in den nächsten Jahrzehnten massiv beeinflussen. Einerseits haben sie das Potenzial, das Gemeinwohl signifikant zu stärken, z.B. durch Verbesserung von medizinischen Diagnosen. Andererseits können KI-Systeme materielle und/oder immaterielle Schäden an Sachen oder Personen anrichten.

Der Bund kann die Chancen und Risiken von KI besser verstehen, wenn er die Entwicklung des KI-Sektors unmittelbar mitverfolgt. Wir empfehlen dazu, rasch Pilotprojekte zum KI-Monitoring zu lancieren , um die aktuellen Fähigkeiten und Auswirkungen von KI-Anwendungen systematisch zu erfassen und dadurch zeitnah eine relevante Faktenbasis für politische Entscheidungen zu gewährleisten.

Vier Grundziele sollen mit einem KI-Monitoring erreicht werden

  1. Chancen identifizieren: Es wird ersichtlich, welche Bereiche von zukünftigen KI-Anwendungen profitieren können.
  2. Risiken einordnen: Sicherheitsrisiken von KI-Anwendungen werden erfassbar.
  3. Transparenz ermöglichen: Es wird offengelegt, welche Alltagsentscheide von KI-Systemen und nicht von Personen getroffen werden.
  4. Entscheidungsgrundlagen schaffen: Gesellschaft und Politik erhalten eine bessere Grundlage, um über den Einsatz von KI zu entscheiden.

Die konkreten Handlungsempfehlungen lauten

  • Schrittweises Vorgehen via Pilotprojekte, um anhand erster Ergebnisse den konkreten Nutzen von KI für Politik und Gesellschaft abzuschätzen und zu optimieren.

  • Pilotprojekt 1 “Kritische Infrastrukturen”: Ein erstes Pilotprojekt sollte in einem sicherheitskritischen Bereich wie dem Gesundheitswesen umgesetzt werden, da das Gemeinwohl hier besonders betroffen ist.

  • Pilotprojekt 2 “Meta-Monitoring”: Dieses Projekt klärt ab, in welchen Themenbereichen ein künftiges Monitoring besonders nötig ist und welche Methoden dafür geeignet sind.

Für die erfolgreiche Umsetzung eines KI-Monitorings ist eine klare Rollenverteilung der Akteure entscheidend

  • Verwaltung: Sie soll die Hoheit über die Monitoring-Projekte haben, damit Monitoring-Ergebnisse auf den politischen Entscheidungsprozess zugeschnitten sind.

  • Wissenschaft: Die Schweizer Hochschulen können aufgrund ihrer KI-Expertise Monitoring-Projekte effektiv und interdisziplinär im Auftrag der Verwaltung umsetzen.

  • Wirtschaft: Sie profitiert von Monitoring durch eine erhöhte Nachfrage von KI-Anwendungen in Bereichen, welche erweitertes Anwendungspotenzial aufweisen. Gleichzeitig wird sie stärker für Risiken sensibilisiert, ähnlich wie heutzutage im Bereich der Cybersicherheit durch das Nationale Zentrum für Cybersicherheit.

Verantwortliche Autoren
David Marti

Programmverantwortlicher KI, Pour Demain

Franxini-Projekt, Leiter Hive

Beitragende Autoren

Über das Franxini-Projekt

Das Franxini-Projekt baut Brücken zwischen Wissenschaft und Politik, indem es die gesellschaftliche und politische Teilhabe von Wissenschaftler*innen sowie das gegenseitige Verständnis und Vertrauen zwischen Politik und Wissenschaften fördert. Forschende erhalten im direkten Kontakt mit Entscheidungsträger*innen die Möglichkeit zu verstehen, von welcher Art wissenschaftlicher Arbeit diese am meisten profitieren. Politiker*innen lernen im persönlichen Umgang mit Forschenden die Funktion und Funktionsweise wissenschaftlicher Arbeit besser kennen. Das Franxini-Projekt bietet Weiterbildungsmodule, Publikationen, einen Policy Innovation Hub Förderprogramm und organisiert Dialog-und co-creation Anlässe.

Mehr Informationen: www.franxini-projekt.ch

Kontakt: franxini@reatch.ch
Projektleitung (Mutterschaftsvertretung): mira.jovanovic@reatch.ch

Förderpartner: Stiftung Mercator, Gebert Rüf Stiftung

Über Pour Demain

Künstliche Intelligenz ist ein Schwerpunktthema von Pour Demain. Dieser zentralen Technologie begegnen wir mit pragmatischen Vorstössen – zugunsten einer sicheren Zukunft für unsere Kinder, Grosskinder und deren Nachkommen.

Pour Demain ist ein gemeinnütziger Verein, der eine wirkungsvolle und wissenschaftlich fundierte nationale Politik fördert: mit einer möglichst grossen positiven Wirkung auf jetzige und künftige Generationen, in der Schweiz und darüber hinaus.

Mehr Informationen: www.pourdemain.ch

Kontakt: info@pourdemain.ch

Autor*innen

David Marti

Autor*in

Programmverantwortlicher KI, Pour Demain

David Marti ist Programmverantwortlicher für den Bereich Künstliche Intelligenz (KI) bei Pour Demain.

Autor*in

Franxini-Projekt, Leiter Hive

Luca Schaufelberger ist Co-Leiter des Franxini-Projekts. Er ist verantwortlich für die Konzeptionierung und Weiterentwicklung der Formate des Franxini Hive. Luca studiert an der ETH Zürich im Master Interdisziplinäre Naturwissenschaften.

Der vorliegende Beitrag gibt die persönliche Meinung der Autor*innen wieder und entspricht nicht zwingend derjenigen von Reatch oder seiner Mitglieder.

Zum Kommentieren mehr als 20 Zeichen im Text markieren und Sprechblase anklicken.

Wir freuen uns über nützliche Anmerkungen. Die Kommentare werden moderiert.