Was ich im Kampf gegen Fake News lernte

Bis Manuel Merki, Projektleiter und Business Designer mich anfragte, ob ich vorhabe, etwas aus der Idee zu machen. Eine Idee alleine wäre nicht viel Wert ohne Umsetzung, aber er sah das Potential.

Es war schnell klar, dass es gar nicht so einfach ist, eine Quelle zu identifizieren. Seit November 2020 recherchieren, diskutieren und optimieren wir das Konzept. Zusammen mit Machine Learning Experten, Journalist*innen und anderen, die das Problem von Fake News und Verschwörungserzählungen so beunruhigend finden wie wir, sind wir auf der Suche nach einer Lösung.

Diese Inputs aus Journalismus, Psychologie, Kommunikationswissenschaften und Machine Learning helfen uns, die verschiedenen Facetten des Problems zu verstehen. Denn die Anziehungskraft von Fake News ist vielschichtig: Selbst wenn unsere Source Engine das gesamte Netz durchstöbern und tatsächlich die Ursprungsquelle finden könnte, würde das nicht ausreichen, um den User von der Falschheit oder Richtigkeit der Information zu überzeugen und die Verbreitung von Fake News zu stoppen.

Zudem ist der Zugriff auf diese Daten und das entsprechende Volumen eine ziemlich grosse Hürde. Wir grenzten deshalb die Daten auf Schweizer Twitter-User ein, als Testumgebung sozusagen. Zusammen mit einem Machine Learning-Experten bastelten wir an einem Proof of Concept. Wir mussten unseren Datenspielraum weiter einschränken, doch erste Lösungsansätze entdeckten wir. Ein Dankeschön geht hier an die Teilnehmerinnen und Teilnehmer des «Rethink Journalism» Hackathons vom letzten Mai: Es war mein erster Hackathon, und ich – immer noch völlig ahnungslos was das Programmieren betrifft – war alles andere als sicher, dass jemand meine Idee spannend finden, geschweige denn, mit mir daran tüfteln wollte. Tatsächlich waren jedoch einige Leute dazu bereit, einen ganzen Freitag und Samstag damit zu verbringen, bei der Entwicklung der Source Engine mitzuhelfen. Das zeigte mir, dass es sich lohnt, weiter daran zu arbeiten, selbst wenn noch so viel Zeit und Energie dabei aufgebraucht wird.

Fake News Debatten drehen sich oft um die bot-getriebene, technologische Verbreitung. Lösungen, das haben wir gelernt, finden sich jedoch auch im sozialen Miteinander. Die Beschäftigung mit Fakes, Bullshit und allen anderen Formen handelt von ganz grundsätzlichen, gewichtigen Themen wie die Wahrung der Meinungsfreiheit, die oft schwierige Trennung von beweisbaren Tatsachen und nicht-faktenbasierten Ansichten - am Ende sogar vom Zusammenhalt der Gesellschaft. Wir alle konnten direkt mitverfolgen, wie sich die Schweiz nach und nach in zwei Lager aufspaltete: Befürworter*innen der Covid-Massnahmen auf der einen Seite, die Gegner*innen auf der anderen. Es ist fast unmöglich, in der Sache unparteiisch zu bleiben. Noch mehrfach versuche ich es mit Dialog auf Augenhöhe mit meinem Exfreund. Preisgeben, dass ich geimpft bin, will ich vermeiden. Als es doch zum Thema wird, ernte ich Beschimpfungen.

Trotzdem – oder vielleicht gerade deswegen – will ich unbedingt an der Neutralität der Source Engine festhalten und ihrem demokratischen Ursprung treu bleiben. Sie soll auf der Idee aufbauen, dass Zensur grundsätzlich nicht nötig ist. Die Gräben dürfen sich nicht vertiefen. Es gibt gesicherte Tatsachen nach besten wissenschaftlichen Erkenntnissen zum aktuellen Zeitpunkt und klare Falschinformationen. Aber nicht Plattformen privater Konzerne sollen bestimmen, was gesagt werden darf und was nicht. Also kämpfen wir weiter.

Dank vielen Gesprächen mit Expert*innen, unzähligen Studien und Büchern identifizierten wir die vielversprechendsten Mechanismen. Weil die einzelnen Bereiche miteinander vernetzt sind, würden wir am liebsten weitere Prototypen bauen, um die vielen Thesen zu prüfen, zu stärken oder zu verbessern. Dazu bräuchten wir Funding. Bisher haben uns unglaublich viele Menschen freiwillig geholfen. Langsam wird es ernst.

Es gibt viele Learnings, aber folgende beurteilen wir als zentral für unsere Lösung:

1. Fake News betreffen jede*n: Da kein Mensch immun ist gegen «cognitive biases», ist auch niemand hundertprozentig sicher vor Fake News und Verschwörungserzählungen [1]. Wir alle wissen, wie unangenehm es sein kann, sich einen Fehler eingestehen zu müssen. Besonders, wenn er im Nachhinein vor Bekannten peinlich banal erscheint. Das Wegschauen von den eigenen Unzulänglichkeiten ist ein Problem, das wir angehen wollen.
2. Psychosoziale Komponente: Unsicherheit ist ein unangenehmes Gefühl. Fake News und Verschwörungserzählungen lassen dieses Gefühl verschwinden. In Kombination mit dem Suchtpotential von Social Media ziehen sie Konsument*innen in eine verschworene Gemeinschaft, die Halt gibt, die jedoch das Vertrauen in die Gesellschaft als Ganzes untergräbt [2] [3]. Darunter leiden nicht nur Wissenschaftler*innen, Journalist*innen oder Politiker*innen, die Hassnachrichten erhalten. Sondern wir alle, die Familie, Freunde oder Bekannte nach und nach an solche Gemeinschaften verlieren. Es gilt, gesicherte Tatsachen von unzulässigen Interpretationen sichtbar(er) zu unterscheiden, um den Einstieg in den Kaninchenbau zu erschweren.
3. Theorien zur Glaubensformung: Warum glauben wir, was wir glauben? Veranlagungen, Kontext, Umfeld, und psychologische Prozesse spielen eine wichtige Rolle, die es erst noch genauer zu verstehen gilt [4] [5]. Wenn Konsument*innen von Fake News und Verschwörungserzählungen besser verstehen würden, was diese kognitiv genau auslösen, würden sie vielleicht vorher stoppen.
4. Expert*innen als Quelle: Informationen tauchen nicht einfach so im Netz auf. Sie werden von jemandem platziert und weiterverbreitet. Wir wollen ein Netzwerk entwickeln, das es Autor*innen ermöglicht, die auf ihn oder sie gestützten Informationen zu prüfen und richtigzustellen. Es werden viele falsche Schlüsse basierend auf seriösen Quellen gezogen, welche Verschwörungserzähler*innen Autorität verleihen, solange es ins Bild passt [6].

Diese Learnings haben wir genutzt und in zwei Ansätze verpackt. Beim ersten geht es darum, Informationen zu kennzeichnen, die nicht auf gesicherten Tatsachen beruhen - ohne Faktenchecker. Das ist die Grundlage für Suchergebnisse. Beim zweiten ist das Ziel, hinter die Vorgehensweisen beim Recherchieren zu sehen, angefangen bei sich selber.

Unser erster Ansatz attackiert die Halbwahrheit. Fake News beinhalten viele Tatsachen, verdrehen diese jedoch an der entscheidenden Stelle zur gewollten Konklusion. Die weitverbreitetsten Falschinformationen entstehen durch vordergründig schlagkräftige Beweise, die sich schlüssig anhören. Hunde sind nicht unfähig zum Schwitzen, weil sie ihren Organismus durch Hecheln abkühlen, wie ein banaler Irrglaube besagt. Die Schweissdrüsen sitzen in den Hundepfoten. Das angewendete Prinzip beruht entweder darauf, ein Detail weg zu lassen oder zu ergänzen, um zu völlig anderen Konklusionen zu gelangen [7]. Um solchen Strategien die Grundlage zu entziehen, wollen wir Wissenschaftler*innen, Journalist*innen und weiteren Autor*innen die Möglichkeit geben, Zitationen der eigenen Inhalte zu widersprechen. Direkt in fremden Texten.

Das ist das erste Puzzlestück, um ohne Faktenchecker und ohne NLP (Natural Language Processing) zu identifizieren, welche Publikationen faktenbasiert argumentieren.

Der zweite Ansatz richtet sich direkt an die Empfänger*innen von Verschwörungserzählungen: diejenigen, die keine Fake News glauben. Weil niemand Fake News glauben will. Fake News verbreiten die Anderen, zumindest deutet ein weiterer Bias darauf hin [8] [9]. Komplett ausradieren können wir diesen Glaubenssatz nicht. Unsere Learnings haben uns aber klar gemacht, welche Rolle sowohl psychische Prozesse als auch das soziale Umfeld spielen. Verschwörungserzähler*innen waren nicht immer so. Viele haben zuvor etwas Entscheidendes erlebt: einen grossen Verlust, einen Vertrauensbruch, eine unfaire Behandlung durch Institutionen. Wir wissen auch, dass wir keine Extremisten überzeugen können. Die Source Engine will die vielen Menschen unterstützen, die unsicher sind, ob etwas glaubwürdig ist.

Welchen kognitiven und emotionalen Abläufen müssen wir also Beachtung schenken, damit Neugier und Unsicherheit nicht noch mehr Menschen in den Bann von Fake News zieht? Wie schützen wir uns selbst vor dem Sog von reisserischen Falschaussagen, vorgetäuschter Klarheit und vermeintlichen wissenschaftlichen Informationen? Im Einzelfall spielen eine Menge Kriterien eine Rolle. Dementsprechend soll jede einzelne Userin und jeder einzelne User Einblick in ihre persönlichen Gewohnheiten und Gedankenprozesse bekommen. Mit dem zweiten Ansatz wollen wir den individuellen Usern aufzeigen wie sie ticken, wenn sie online News konsumieren und Informationen recherchieren.

Damit haben wir zwei gegenübergestellte Anknüpfungspunkte gefunden, mit denen wir das Problem von Fake News angehen: Einerseits wollen wir die korrekte Quellenwiedergabe unterstützen, andererseits den Usern aufzeigen, was sich in ihnen abspielt, wenn sie (Fake) News konsumieren.

Es ist noch ein harter Weg bis zu einer funktionierenden Source Engine. Aber wir haben zwei Ansätze, die wir austesten möchten. Zuerst visuell mit Mockups, dann implementiert mit Testnutzern. Bei Interesse an Details, schreibt uns gerne eine Nachricht an hallo@source-engine.io. Wir sind überzeugt, dass wir das Problem von Fake News und Verschwörungserzählungen nicht so stehen lassen können.

• Unser erster Prototyp der Source Engine hat auf der technischen Ebene gezeigt, was möglich ist. Auch wenn wir zeigen konnten, dass das System grundsätzlich funktionieren würde, sind die Hürden gross und eine reine Tech-Lösung wird im Kampf gegen Fake News nicht ausreichen.
• Durch den Design Thinking Prozess haben wir Mechanismen entdeckt, mit denen Fake News und Verschwörungserzählungen ohne Zensur reguliert werden können. Den Source Engine Ansatz haben wir entsprechend angepasst.
• Wir suchen noch nach dem besten Weg, um die kognitiven Prozesse bei der Recherche zu reflektieren. Die psychologischen Sog-Prozesse lassen sich hoffentlich stoppen, wenn sie dem User oder der Userin bewusst gemacht werden. (Anmerkungen gerne in den Kommentaren).
• Der wertneutrale Ansatz bleibt. Wir wollen niemandem die Konklusion vorwegnehmen. Die Source Engine zeigt, ob belastbare Quellen von glaubwürdigen Autor*innen vorhanden sind und will dazu anregen, das eigene Rechercheverhalten zu reflektieren. Die Entscheidung liegt am Ende beim Individuum.