Grundidee

Angenommen eine künstliche Intelligenz durchsucht die Internet-Aktivitäten der rund 80 Millionen Einwohner Deutschlands nach Anzeichen für die Planung eines terroristischen Anschlages. Die KI sei so gut, dass sie in nur 0,01 Prozent der Fälle jemanden zu Unrecht verdächtigt. Wenn dann zum Beispiel ein Herr Weidmann von der KI als verdächtig eingestuft wird, kann dennoch die Wahrscheinlichkeit, dass er auch ein Terrorist ist, sehr gering sein. Das ist hier näher erklärt.

Die 200-Personen-Annahme: Terror in Deutschland

Als Terrorist bezeichnet man eine Person^[3], die gezielt Angst durch Akte der Gewalt Angst erzeugen will^[10], um damit politische Ziele gegen die herrschende Staatsgewalt durchzusetzen. Die Anzahl von Menschen, die nicht bloß mit solchen Gedanken spielen oder Terrorismus an sich bejahen (Sympathisanten) sondern wirklich auch zur Tat schreiten, ist meist sehr niedrig. Nehmen wir an, dass es zurzeit in Deutschland vielleicht 200 Personen gibt, die zur Ausübung terroristischer Anschläge willens sind. Von 200 Personen könnte es eine geben, die demnächst einen Parteivorsitzenden ermordet, um die deutsche Asylpolitik zu beeinflussen. Oder einer der 200 möglichen Terroristen könnte ein großes Erdgas-Verdampfungsschiff in einem deutschen Hafen "in die Luft jagen", um damit die deutsche Energiepolitik zu verändern^[6].

Die Anti-Terrorismus-KI mit mit 0,01 % Fehler

Angenommen eine Künstliche Intelligenz wertet ständig die Internet-Aktivitäten aller deutschen Bürger aus. Wenn eine Person dann zum Beispiel mehrere Webseiten zum Bau von Torpedos^[4] oder Drohnen^[5] aufgerufen hat, anschließend in einem Baumarkt verdächtiges Material gekauft hat, in Verbindung mit anderen Verdächtigen steht und mehrfach Autofahrten zum Liegeplatz eines Erdgas-Verdampfungsschiffes an der Küste gemacht hat^[6], dann liegt die Vermutung nahe, dass diese Person einen Anschlag vorbereitet, etwa mit Drohnen oder einem Torpedo. Angenommen, die KI spricht nur in 0,01 Prozent oder dem 0,0001-fachen aller untersuchten Personen eine falsche Verdächtigung aus. Dann, so der gesunde Menschenverstand, müsste die Wahrscheinlickeit, dass eine verdächtigte Person auch tatsächlich einen Anschlag plant, recht hoch sein. Wo Rauch ist, muss auch ein Feuer sein. Das aber kann in die Irre führen.

Nur 0,01 % Fehler und troztdem meistens falsch

Die KI wird von den ungefähr 80 Millionen Einwohnern Deutschland rund 0,01 % zu Unrecht verdächtigen. 0,01 % von 80 Millionen sind immerhin 8000 Menschen^[7]. Wenn aber von diesen 8000 Verdächtigen tatsächlich nur 200 echte Terroristen sind, dann ist die Wahrscheinlichkeit, dass eine verdächtige Person auch wirklich ein Terrorist ist 200 geteilt durch 8000 oder 1/40 oder 0,025 oder 2,5 %^[8]. Das verblüffende ist hier, dass die Software in nur 0,01 Prozent der Fälle einen Fehler macht, aber in nur 2,5 % eine Person zu Recht verdächtigt. Diesen scheinbaren Widerspruch nennt man das False positive Paradoxon. False heißt falsch und positiv, dass ein Test ein bejahendes Ergebnis gibt.

Wodurch entsteht das False positive Paradoxon?

Das Paradoxon entsteht immer dann, wenn die geteteste Ausprägung eines Merkmals (ist Terrorist, hat eine Krankheit) in der Grundgesamt der untersuchten Menge von Personen nur sehr gering oder im Extremfall sogar gar nicht mehr vorhanden ist.

Fußnoten

[1] Das Paradoxon ist am Beispiel einer hypothetischen Super-AIDS Erkrankung erklärt: "1,00/100 = 10,000: One in a million people has Super-AIDS. If you test a million random people, you'll probably only find one case of real Super-AIDS. But your test won't identify one person as having Super-AIDS. It will identify 10,000 people as having it. Your 99 percent accurate test will perform with 99.99 percent inaccuracy." In: Cory Doctorow: Little brother. Licensed under a Creative Commons Attribution-Noncommercial-ShareAlike license, which lets you share it, remix it, and share your remixes, provided that you do so on a noncommercial basis.

[2] Das Paradoxon ist am Beispiel einer hypothetischen Rasterfahndung erklärt: "Terrorists are really rare. In a city of twenty million like New York, there might be one or two terrorists, maybe up to ten. 10/2,000 = 0.00005 percent, one twenty-thousandth of a percent. That's pretty rare. Now, say you have software that can sift through all the bank-records, or toll-pass records, or public transit records, or phone-call records in the city and catch terrorists 99 percent of the time. In a pool of twenty million people, a 99 percent accurate test will identify two hundred thousand people as being terrorists. But only ten of them are terrorists. To catch ten bad guys, you have to investigate two hundred thousand innocent people." In: Cory Doctorow: Little brother. Licensed under a Creative Commons Attribution-Noncommercial-ShareAlike license, which lets you share it, remix it, and share your remixes, provided that you do so on a noncommercial basis.

[3] Klassische Beispiele für Terroristen sind die deutsche Rote Armee Fraktion (RAF) aus den 1970er Jahren, die baskische Separatistengruppe ETA sowie seit den 1990er Jahren vermehrt rechtsextreme Gruppierungen. Aber auch Staaten setzen Gewalt gezielt ein, um über Angst und Schrecken politische oder militärische Ziele zu erreichen. So bombardierten deutsche Zeppeline bereits im Ersten Weltkrieg London. Die getöteten Londoner Zivilisten hatten keinerlei Einfluss auf die militärische Lage des Krieges, sollten aber die englische Bevölkerung demoralisieren. Sind aber ausführende Organe eines Staates die Urheber des Terrors, spricht man nicht von Terrorismus sondern eher von Terrorakten. Die Bezeichnung Terrorist wird meist nur auf Personen angewandt, die sich gegen die momentane Staatsgewalt richten. Siehe als Beispiel Rote Armee Fraktion ↗

[4] Als Torpedo bezeichnet man ein Unterwassergeschoss mit Sprengstoff und eigenem Antrieb. Torpedos werden seit dem ersten Weltkrieg zur Versenkung von Schiffen eingesetzt. Torpedos müssen in der Lage sein, die Schiffswand zu durchdringen. Siehe auch Torpedo ↗

[5] Drohnen spielen spätestens seit dem Krieg Russlands gegen die Ukraine (seit 2022) eine wichtige Rolle. Sie können mit einfachsten Mitteln billig hergestellt werden und können dennoch große Objekte wie etwa Panzer zerstören. Für technisch begabte Terroristen sollten Drohnen ein einfaches Mittel für verheerende Terroranschläge sein. Siehe auch Drohne ↗

[6] Ein möglicherweise leichtes Ziel wäre ein sogenannten Verdampfungsschiff wie die Hoegh Esperanza bei Wilhelmshaven an der deutschen Nordseeküste. Diese Schiffe dienen der Versorgung Deutschlands mit Flüssiggas. Es ist zumindest denkbar, dass ein solches Schiff mit einem selbgebauten Torpedo oder einem massiven Angriff mit Drohnen zur Explosion gebracht werden könnte.

[7] Hier wurde aus dem Grundwert (80 Millionen Menschen) und dem Prozentsatz (0,01 %) der Prozentwert (8000 Menschen) berechnet. Siehe dazu auch Prozentwert berechnen ↗

[8] Hier wurde aus dem Grundwert (8000 Menschen) und dem Prozentwert (200 Terroristen) der Prozentsatz (2,5 %) berechnet. Siehe auch Prozentsatz berechnen ↗

[9] Der Prozentsatz oder Anteil von echten Terroristen unter der Menge der verdächtigen Personen kann als eine sogenanten relative Häufigkeit gedeutet werden. Die relative Häufigkeit ist in der Stochastik dann ein Maß für die sogenannte empirische Wahrscheinlichkeit ↗

[10] Zur Definition von Terrorismus: "Laut des Zweiten Periodischen Sicherheitsberichts der Bundesregierung vom 15. November 2006 ist Terrorismus „nicht Ausdruck einer spezifischen Kultur, er ist zunächst ein extremes politisches Kampfmittel. Terrorismus ist eine Strategie des Kampfes, die Staatsgewalt bzw. Besatzungsmacht herauszufordern und dadurch Solidarisierungswellen in den Bevölkerungsgruppen zu provozieren, als deren Avantgarde sich die Akteure verstehen. Unmittelbares Ziel ist nicht der Sieg, sondern die Verbreitung von Schrecken

und Furcht...“ In: Wissenschaftliche Dienste. Deutscher Bundestag: Terrorismus: Definitionen, Rechtsgrundlagen und Maßnahmen zur
Terrorismusbekämpfung. Ausarbeit WD 3-417/09. Veröffentlicht im Jahr 2009.