Zusammenfassung
Anwendungen von künstlicher Intelligenz (KI) kommen in immer mehr Lebensbereichen zum Einsatz und werden die Gesellschaft in den nächsten Jahrzehnten massiv beeinflussen. Einerseits haben sie das Potenzial, das Gemeinwohl signifikant zu stärken, z.B. durch Verbesserung von medizinischen Diagnosen. Andererseits können KI-Systeme materielle und/oder immaterielle Schäden an Sachen oder Personen anrichten.
Der Bund kann die Chancen und Risiken von KI besser verstehen, wenn er die Entwicklung des KI-Sektors unmittelbar mitverfolgt. Wir empfehlen dazu, rasch Pilotprojekte zum KI-Monitoring zu lancieren , um die aktuellen Fähigkeiten und Auswirkungen von KI-Anwendungen systematisch zu erfassen und dadurch zeitnah eine relevante Faktenbasis für politische Entscheidungen zu gewährleisten.
Vier Grundziele sollen mit einem KI-Monitoring erreicht werden
- Chancen identifizieren: Es wird ersichtlich, welche Bereiche von zukünftigen KI-Anwendungen profitieren können.
- Risiken einordnen: Sicherheitsrisiken von KI-Anwendungen werden erfassbar.
- Transparenz ermöglichen: Es wird offengelegt, welche Alltagsentscheide von KI-Systemen und nicht von Personen getroffen werden.
- Entscheidungsgrundlagen schaffen: Gesellschaft und Politik erhalten eine bessere Grundlage, um über den Einsatz von KI zu entscheiden.
Die konkreten Handlungsempfehlungen lauten
Schrittweises Vorgehen via Pilotprojekte, um anhand erster Ergebnisse den konkreten Nutzen von KI für Politik und Gesellschaft abzuschätzen und zu optimieren.
Pilotprojekt 1 “Kritische Infrastrukturen”: Ein erstes Pilotprojekt sollte in einem sicherheitskritischen Bereich wie dem Gesundheitswesen umgesetzt werden, da das Gemeinwohl hier besonders betroffen ist.
Pilotprojekt 2 “Meta-Monitoring”: Dieses Projekt klärt ab, in welchen Themenbereichen ein künftiges Monitoring besonders nötig ist und welche Methoden dafür geeignet sind.
Für die erfolgreiche Umsetzung eines KI-Monitorings ist eine klare Rollenverteilung der Akteure entscheidend
Verwaltung: Sie soll die Hoheit über die Monitoring-Projekte haben, damit Monitoring-Ergebnisse auf den politischen Entscheidungsprozess zugeschnitten sind.
Wissenschaft: Die Schweizer Hochschulen können aufgrund ihrer KI-Expertise Monitoring-Projekte effektiv und interdisziplinär im Auftrag der Verwaltung umsetzen.
Wirtschaft: Sie profitiert von Monitoring durch eine erhöhte Nachfrage von KI-Anwendungen in Bereichen, welche erweitertes Anwendungspotenzial aufweisen. Gleichzeitig wird sie stärker für Risiken sensibilisiert, ähnlich wie heutzutage im Bereich der Cybersicherheit durch das Nationale Zentrum für Cybersicherheit.
Verantwortliche Autoren
Beitragende Autoren
Das Franxini-Projekt: Wir wollen eine Gesellschaft, in der Akteure aus Wissenschaften und Politik zusammenarbeiten, um gesellschaftliche Herausforderungen effektiv zu bewältigen. Dank dem politischen Engagement von Forschenden aus allen Fachrichtungen tragen wissenschaftlich fundierte Ideen zu effektiven Lösungen bei, von denen die ganze Gesellschaft profitiert.
Das Franxini-Projekt ist entstanden auf Initiative der wissenschaftlichen Ideenschmiede «Reatch! Research. Think. Change.» und wird unterstützt von einer Reihe von renommierten Persönlichkeiten aus Wissenschaften, Politik und Gesellschaft und wird gefördert von der Stiftung Mercator, der Gebert Rüf Stiftung, der cogito foundation, der Universität Zürich, dem ETH Rat, der Akademie der Naturwissenschaften Schweiz und weiteren Partnern.
Über Pour Demain
Künstliche Intelligenz ist ein Schwerpunktthema von Pour Demain. Dieser zentralen Technologie begegnen wir mit pragmatischen Vorstössen – zugunsten einer sicheren Zukunft für unsere Kinder, Grosskinder und deren Nachkommen.
Pour Demain ist ein gemeinnütziger Verein, der eine wirkungsvolle und wissenschaftlich fundierte nationale Politik fördert: mit einer möglichst grossen positiven Wirkung auf jetzige und künftige Generationen, in der Schweiz und darüber hinaus.
Mehr Informationen: www.pourdemain.ch
Kontakt: info@pourdemain.ch
Autor*innen
David Marti ist Programmverantwortlicher für den Bereich Künstliche Intelligenz (KI) bei Pour Demain.
Luca Schaufelberger ist Co-Leiter des Franxini-Projekts. Er ist verantwortlich für die Konzeptionierung und Weiterentwicklung der Formate des Franxini Hive. Luca forscht an der ETH Zürich an Anwendungen von künstlicher Intelligenz in der Chemie.
Die Beiträge auf dem Reatch-Blog geben die persönliche Meinung der Autor*innen wieder und entsprechen nicht zwingend derjenigen von Reatch oder seiner Mitglieder.
Comments (0)