17798/J XXVII. GP

Eingelangt am 09.02.2024
Dieser Text wurde elektronisch übermittelt. Abweichungen vom Original sind möglich.

Anfrage

der Abgeordneten Dr. Nikolaus Scherak‚ MA, Kolleginnen und Kollegen

an die Bundesministerin für Justiz

betreffend Falsche Beschuldigung aufgrund fehlerhafter Gesichtserkennung

Am 4.2.2023 wurde in der Krone ein Bericht veröffentlicht, in welchem geschildert wird, dass sich ein unbeteiligter Bürger aufgrund fehlerhafter Gesichtserkennungssoftware plötzlich im Gefängnis wiederfindet. Die Geschichte beginnt am 23.05.2023, als in der Steiermark eine vermeintliche Kriminalbande zugeschlagen habe und zwar mit Falschgeld in Supermärkten Lebensmittel und Tierfutter eingekauft habe, unter der Aufsicht ihres "Chefs", der während der Zahlungen an den Kassen stets hinter ihnen gestanden habe. Die Betrügereien wurden rasch entdeckt; die Kriminalpolizei beschaffte sich in der Folge Überwachungsvideos aus den Geschäften und verfügte damit über Bilder der vermeintlichen Täter - und speiste sie in ein KI-Gesichtsfelderkennungsprogramm ein. In diesem sind Tausende Fotos von Personen, die hierzulande bereits erkennungsdienstlich behandelt worden waren, gespeichert. Das System identifizierte einige Rumänen als „Ausführer“, welche rasch gefasst werden konnten.

Die Gesichtserkennungs-KI schlug auch bei David P. an. Der KI nach sollte der Chef des Clans sein. Am 01.09.2023 wurde eine Festnahme angeordnet und ein internationaler Haftbefehl gegen ihn ausgestellt, obwohl es gar keine Anzeichen für seine Involvierung gegeben hatte. David P. wurde noch nicht einmal von den vermeintlichen Kollegen belastet. Auch wurde nicht versucht David P. an seiner Meldeadresse in Wien festzunehmen. Am 26.10.2023 wurde David P. auf einer Reise nach Serbien von dortigen Grenzwachbeamten angehalten und in ein Gefängnis in Serbien gebracht. Am 20.12.2023 wurde er nach Wien überstellt, tags darauf fand seine Einvernahme statt. In dieser stellte sich schnell heraus, dass er nicht der Gesuchte ist, weswegen er entlassen wurde.

Der Einsatz von Gesichtserkennungssoftware ist ein massiver Eingriff in das Recht auf Privatsphäre. Weiters hat sie starke Verzerrungseffekte (zB bzgl Hautfarben und Geschlechter) und hohe Fehlerquoten. Die Verwendung und Filterung nach Metadaten, die unweigerlich mit biometrischen Merkmalen verbunden sind, führt zu Racial Profiling. Generell ist die Verwendung von Gesichtserkennung,gefährlich und führt zu einer Einschränkung der Freiheit. Neben der Videoüberwachung selbst führt der Einsatz solcher Überwachungs- und Ermittlungsmaßnahmen zu einem sogenannten „chilling effect“: Die Menschen verhalten sich anders, wenn sie wissen, dass sie beobachtet werden. Das hat grundlegende soziale Auswirkungen.

Quellen:

https://www.krone.at/3234784

https://epicenter.works/thema/face-recognition

https://www.amnesty.at/presse/amnesty-fordert-aus-fuer-den-einsatz-von-gesichtserkennungstechnologie/

Die unterfertigten Abgeordneten stellen daher folgende

Anfrage:

1. Welche Erkenntnisse aus Ermittlungshandlungen wurden im gegenständlichen Fall gezogen, die dazu geführt haben, dass David P. als Beschuldigter geführt wird?

1. Bestanden neben dem Bildabgleich andere Beweismittel, die dazu geführt haben, dass David P. als Beschuldigter geführt wird?
2. Bestanden neben dem Bildabgleich andere Beweismittel, die dazu geführt haben, dass die Festnahme gegen David P. angeordnet wurde?
3. Welche weiteren Ermittlungshandlungen wurden im gegenständlichen Fall gesetzt?
4. Wieso wurde nicht versucht, David P. an seiner Meldeadresse feszunehmen?
5. Wann wurde der Bildabgleich vorgenommen?

i. Welche Übereinstimmungsrate (in %) hatte der Bildabgleich im gegenständlichen Fall?

6. Welche Maßnahmen wurden in Ihrem Ressort in Angesicht des fehlerhaften Ergebnisses gesetzt?

2. Wie viele Anklagen bzw. Strafanträge wurden im Zusammenhang mit Personen eingebracht, die aufgrund eines Bildabgleichs konkret verdächtigt wurden, eine strafbare Handlung begangen zu haben?

1. In wie vielen Fällen war der Bildabgleich das einzige Beweismittel, das zur Anklage bzw. zum Strafantrag geführt hat?

3. Wie viele Verurteilungen wurden rechtskräftig ausgesprochen, in denen der Bildabgleich ein Beweismittel war?

1. Wie viele Verurteilungen wurden rechtskräftig im Zusammenhang mit Personen ausgesprochen, in denen der Bildabgleich das einzige Beweismittel war, dass die bzw. den Angeklagte:n als Täter identifiziert hatte?

4. Gibt es von Seiten Ihres Ressorts Vorgaben, die bestimmen, welche Voraussetzungen Bildabgleiche für das Einbringen einer Anklage bzw. eines Strafantrags erfüllen müssen?

1. Wenn ja, welche genau?

5. Haben Sie oder Ihr Kabinett mit dem BMI Gespräche geführt bzgl. EInschränkung bzw. Einstellung der Nutzung der Gesichtserkennungssoftware?

1. Wenn ja, wann und wer war jeweils am Gespräch beteiligt?

i. Was war jeweils Ihre Position?

6. Gab es von Seiten des BMI Gespräche mit Ihnen oder Ihrem Kabinett bzgl. Abänderung bzw. Ausweitung der Nutzung der Gesichtserkennungssoftware?

1. Wenn ja, wann und wer war jeweils am Gespräch beteiligt?

i. Was war jeweils Ihre Position?