Künstliche Intelligenz – der Ermittler der Zukunft?

Céline Jenni: Kann die beste künstliche Intelligenz (KI) der Welt momentan einen Verbrecher überführen?

Chantal Roth: Gerade jetzt noch gar nicht, nein. Aber langfristig könnte das schon sein.

Was fehlt der künstlichen Intelligenz, um so gut zu sein wie ein menschlicher Ermittler?

Ein Problem ist, dass man nicht vor Gericht gehen und sagen kann, meine KI hat herausgefunden, dass diese Person schuld ist. Das würde nicht akzeptiert werden. Zudem müsste die KI erklären können, warum sie von verschiedenen Spuren auf diesen Täter schliesst, aber diese Erklärungen kann sie noch nicht liefern. Aber das wird kommen.

Wo konkret wird KI in der Forensik eingesetzt?

Wenn wir zum Beispiel Blut am Tatort finden, enthält diese häufig nicht nur DNA des Täters oder der Täterin, sondern auch von weiteren Personen. Es ist oft sehr schwierig zu wissen, von wie vielen Personen die DNA in dieser Mischung stammt. KI kann helfen, die DNA-Profile zu analysieren und eine Aussage zu treffen, wie viele Personen es wahrscheinlich waren und diese teilweise auch begründen. Am Schluss entscheidet immer noch der Forensiker; aber es ist eine sinnvolle Unterstützung.

Sie entwickeln genau solche Programme für Forensiker und Forensikerinnen, oder?

Ja, ich schreibe Computerprogramme, die Forensikerinnen und Forensiker helfen, DNA-Profile zu interpretieren. Wenn man aus so einer DNA-Mischung ein DNA-Profil für ein Individuum bekommt, kann der Forensiker damit die Datenbanken durchsuchen. Passt das DNA-Profil mit anderen Hinweisen wie Zeugenaussagen zusammen, findet man so den Täter.

Wofür ist KI sonst noch nützlich?

Ich nutze KI jeden Tag. Programmieren ist eben nicht nur einen Code schreiben, sondern einen Grossteil der Zeit brauchen wir im Team, um die Probleme der Forensik zu verstehen. KI ist dabei unglaublich nützlich in der Ausbildung. Wenn ich beispielsweise einem neuen Software-Entwickler erklären muss, was ein DNA-Profil ist, kann er stattdessen auch KI fragen. KI ist unendlich geduldig und kann Dinge einfach und gut erklären. KI macht alles schneller.

Verstehe ich richtig, dass diese Schnelligkeit auch einen Vorteil bei der Verbrechensbekämpfung bietet?

Zumindest bei der Software-Entwicklung, die dann für die Verbrechensaufklärungsarbeit genutzt wird, ja. Auch ein Richter, der sehr viel Material zum Durchlesen hat, könnte dieses einer KI wie GPT-4 geben. GPT-4 kann bis zu 50 Seiten gleichzeitig verstehen und dann zum Beispiel das Dokument zusammenfassen und die wichtigsten Punkte wiedergeben.

Aber wie ist das mit dem Datenschutz, wenn Richter solche Funktionen nutzen? Gerade bei Verbrechensaufklärung sind ja auch heikle und persönliche Daten dabei.

Ja, das geht natürlich gar nicht. Bei uns in der Firma haben wir eine interne Kopie von GPT. Das heisst, dort sind die Daten geschützt und gehen nicht nach draussen. Man weiss tatsächlich nicht genau, ob und wie die eingegeben Daten andernfalls genutzt würden.

Ich sehe neben dem Datenschutz auch ein Problem, wenn der Richter nur noch eine von KI-erstellte Zusammenfassung liest. Was ist, wenn KI einen Fehler gemacht hat?

Ein Ansatz ist beispielsweise, dass man KI mehrmals die gleiche Frage stellt, denn KI wird wahrscheinlich nicht mehrmals den gleichen Fehler machen, da auch ein gewisser Zufall dahintersteckt. Zudem werden die Modelle immer besser. Aber natürlich müssen die Menschen auch immer noch selber denken und überlegen, ob es Sinn macht. Andererseits sind ja auch Menschen nicht perfekt. Und sobald KI weniger Fehler macht als ein Experte, dann ist KI schlussendlich doch besser als wir.

Wie gewinnt man in der breiten Bevölkerung die Akzeptanz und das Vertrauen, dass KI gut ist?

Das wird Erfahrungen über Jahre hinweg brauchen. Viele Leute verstehen auch nicht, wie KI funktioniert, oder glauben, dass KI irgendwie manipuliert ist. Aber durch den immer häufigeren Gebrauch und die Erfahrung werden sich die Leute daran gewöhnen.

Wie funktioniert denn KI genau?

Bei einem Text beispielsweise muss das Modell der KI vorhersagen können, was nachher kommt. Das Modell wird dabei mit Millionen von Büchern trainiert, bis es eine Art Modell der Welt abgebildet hat. Es ist aber nicht eine reine Datenbank, weil KI muss abstrahieren können und eine Art Verständnis haben, damit es eben Text voraussagen oder Fragen beantworten kann. Und je grösser man das Modell macht und ihm mehr Material gibt, desto mehr und besser kann es verstehen – ähnlich wie ein menschliches Gehirn.

Zurück zur Forensik: Bei der forensischen DNA-Phänotypisierung kann man anhand von der DNA auf äussere Merkmale schliessen. Funktioniert das tatsächlich?

Theoretisch ist es möglich, aufgrund der DNA vorauszusagen, wie jemand aussieht. Allerdings kennt man noch nicht alle Gene dafür. Gene für Augen- oder Hautfarbe oder Knochenbau sind aber schon bekannt, das heisst, dort können Phantombilder generiert werden. Allerdings ist auch das fehleranfällig. Wenn man anhand der DNA aber sagen kann, dass der Täter wahrscheinlich jemand mit blauen Augen, blonden Haaren und etwa zwei Meter gross ist, und ein Verdächtiger ist das genaue Gegenteil davon, dann passt das eher nicht zusammen. Es ist einfach ein Indikator, besonders um Verdächtige auszuschliessen. Übrigens könnte auch KI bei der Erstellung von solchen Phantombildern einmal zum Zug kommen.

Ist das nicht auch gefährlich im Hinblick auf Racial Profiling? KI lernt ja alles aufgrund von Daten.

Ja, gerade bei Texten sind die menschlichen Vorurteile gefährlich, da das KI auch so lernt. Das gibt gerade bei Rassismus Probleme. Es gibt Bestrebungen, dass man Wege findet, dass solche Dinge herausgefiltert werden. Bei der DNA ist das aber etwas anderes, weil dort steckt reine Statistik dahinter und keine Meinung. Wie man dann aber das aus DNA-generierte Phantombild einsetzt, ist ein anderes Thema. Nur weil die DNA Hinweise auf jemanden mit blonden Haaren gibt, dürfen dann ja nicht alle Blondhaarigen unter Generalverdacht gestellt werden. Forensiker sollten die Phantombilder eher zum Entlasten der Verdächtigen einsetzen. Aber es sind ja immer ganz viele Hinweisstückchen die zum Täter führen mit Zeugenaussagen, DNA-Material oder allfälligen Waffen. Das Phantombild ist dann einfach eine zusätzliche Hilfe, ob es passen könnte oder nicht.

Die Methoden der Verbrecheraufklärung mit KI werden also immer besser, um die einzelnen Hinweise zusammenzusetzen. Gibt es bald weniger Verbrechen, einfach, weil man weiss, dass man sowieso überführt wird?

Das wäre schön, aber das glaube ich nicht. Denn KI kann man auch kriminell einsetzen. Die Schattenseiten sind beispielsweise, dass man eine falsche Kameraaufnahme generieren kann, und dann mit diesem gefälschten Foto beweist, dass man nicht am Tatort war.

Der Wettlauf zwischen Verbrechern und Ermittlern bleibt also bestehen?

Ja, denn Kriminelle werden auch KI fragen, wie man Verbrechen begehen könnte, ohne erwischt zu werden. Obwohl die Modelle eigentlich so programmiert sind, dass auf solche Fragen keine Antworten gegeben werden, kann man die Modelle natürlich austricksen.

Macht Ihnen KI auch Angst?

Angst nicht, aber man muss einfach realistisch sein. Neben den ganzen Vorteilen gibt es auch die Nachteile. Es wird immer mehr Fakes geben mit gefälschten Stimmen, Bildern oder Videos. Enkeltricks werden dadurch auf einmal glaubwürdiger. Und als Gesellschaft müssen wir dafür parat sein. Viele Leute sind naiv und wissen gar nicht, was möglich ist mit KI.

Die Gesellschaft ist also nicht auf KI vorbereitet?

Nein, weil die meisten Leute gar nicht sehen, was noch kommt und möglich sein wird. Wir sind erst am Anfang, und die Entwicklung geht wahnsinnig schnell. Es dauert nur noch wenige Jahre bis wir eine KI haben, die so gut wie ein Mensch in allen Bereichen sein wird.

Die Beiträge auf dem Reatch-Blog geben die persönliche Meinung der Autor*innen wieder und entsprechen nicht zwingend derjenigen von Reatch oder seiner Mitglieder.