Wenn Wahrscheinlichkeit zum Beweis wird Die Justiz arbeitet mit Beweisen. Technische Systeme arbeiten häufig mit Wahrscheinlichkeiten.
Beides ist nicht dasselbe.
Ein technisches System kann zu dem Ergebnis kommen, dass eine bestimmte Person mit einer Wahrscheinlichkeit von 97 Prozent für ein bestimmtes Ereignis verantwortlich ist.
Die Zahl klingt beeindruckend.
Doch was bedeutet sie?
Und vor allem:
97 Prozent Wahrscheinlichkeit wofür?
Die Zahl allein beweist nichts Eine Wahrscheinlichkeit ist immer das Ergebnis bestimmter Annahmen. Sie hängt davon ab,
Von der Wahrscheinlichkeit zur Person Das Problem beginnt dort, wo aus einer statistischen Aussage eine individuelle Schlussfolgerung wird. Beispielsweise:
Das technische System erkennt eine Übereinstimmung.
Daraus wird:
Die Übereinstimmung ist mit 97 Prozent Wahrscheinlichkeit korrekt.
Und daraus wird schließlich:
Die betroffene Person war der Täter.
Diese drei Aussagen sind nicht identisch.
Zwischen ihnen liegen mehrere Schlussfolgerungen.
Genau diese Zwischenschritte müssen überprüft werden.
Das alte Problem in neuer Form Damit sind wir wieder bei den Fällen, die wir bei Fehler-451 untersuchen. Auch bei einer Peer-ID kann eine technische Übereinstimmung zunächst beeindruckend aussehen.
Auch dort kann aus einer technischen Information eine weitergehende Schlussfolgerung gezogen werden.
Die entscheidende Frage bleibt immer dieselbe:
Was kann die technische Information tatsächlich beweisen?
Nicht:
Was könnte man aus ihr gerne beweisen?
Das Gericht bleibt verantwortlich Auch wenn ein Sachverständiger, eine Software oder eine künstliche Intelligenz ein Ergebnis liefert, verschwindet die richterliche Verantwortung nicht. Das Gericht muss beurteilen, welchen Beweiswert dieses Ergebnis besitzt.
Es muss insbesondere erkennen können, welche Voraussetzungen dem Ergebnis zugrunde liegen und welche Unsicherheiten bestehen.
Ein technisches System kann dem Gericht eine Information liefern.
Es kann dem Gericht aber nicht die Entscheidung abnehmen, welche rechtliche Bedeutung diese Information besitzt.
Der gefährliche Eindruck mathematischer Genauigkeit Menschen neigen dazu, Zahlen zu vertrauen. Eine Aussage wie
„Das System erreichte eine Genauigkeit von 97,3 Prozent“
wirkt objektiver als
„Das System ist ziemlich sicher.“
Mathematische Präzision ist jedoch nicht dasselbe wie tatsächliche Gewissheit.
Ein Messgerät kann auf die Nachkommastelle genau messen und trotzdem die falsche Größe messen.
Ein Algorithmus kann eine Wahrscheinlichkeit auf vier Nachkommastellen berechnen und trotzdem die falsche Frage beantworten.
Die Präzision des Ergebnisses sagt nichts über die Richtigkeit der zugrunde liegenden Annahme aus.
Was wurde eigentlich bewiesen? Deshalb muss bei technischen Beweisen immer wieder eine einfache Frage gestellt werden: Welche konkrete Tatsache wird durch dieses Beweismittel bewiesen? Nicht mehr. Aber auch nicht weniger.
Wenn ein System lediglich nachweist, dass zwei Datensätze statistisch ähnlich sind, ist damit noch nicht bewiesen, dass dieselbe Person dahintersteht.
Wenn zwei Geräte dasselbe Softwaremerkmal besitzen, ist damit nicht bewiesen, dass sie von derselben Person verwendet wurden.
Wenn eine IP-Adresse einem Anschluss zugeordnet wird, ist damit nicht bewiesen, wer den Anschluss benutzt hat.
Und wenn ein KI-System eine Person mit hoher Wahrscheinlichkeit einem Ereignis zuordnet, ist damit noch nicht bewiesen, dass diese Person die Handlung tatsächlich vorgenommen hat.
Die Kette muss vollständig sein Eine belastbare gerichtliche Entscheidung benötigt deshalb eine nachvollziehbare Beweiskette: Daten
↓
Messung
↓
technische Auswertung
↓
Fehlerwahrscheinlichkeit
↓
Schlussfolgerung
↓
rechtliche Bewertung
Jede einzelne Stufe muss überprüfbar sein.
Wenn eine Stufe fehlt, darf die Unsicherheit dieser Stufe nicht einfach in die nächste Stufe übernommen werden.
Denn:
Aus einer Wahrscheinlichkeit wird keine Gewissheit, nur weil sie in einem Urteil steht.
Fehler-451 Wir wollen deshalb bei technischen Beweismitteln nicht nur wissen, welches Ergebnis ein System produziert. Wir wollen wissen, warum es dieses Ergebnis produziert.
Denn der entscheidende Fehler entsteht häufig nicht bei der Messung.
Er entsteht bei der Übersetzung:
Aus „technisch möglich“ wird „wahrscheinlich“.
Aus „wahrscheinlich“ wird „überwiegend wahrscheinlich“.
Und aus „überwiegend wahrscheinlich“ wird schließlich:
„Das Gericht ist überzeugt.“
Diese Entwicklung kann richtig sein.
Sie kann aber auch eine Kette von Schlussfolgerungen enthalten, von denen jede einzelne plausibel erscheint, während die Gesamtschlussfolgerung trotzdem falsch ist.
Denn:
97 Prozent sicher ist nicht 97 Prozent wahr.