17797/J XXVII. GP

Eingelangt am 09.02.2024
Dieser Text wurde elektronisch übermittelt. Abweichungen vom Original sind möglich.

Anfrage

der Abgeordneten Dr. Nikolaus Scherak‚ MA, Kolleginnen und Kollegen

an den Bundesminister für Inneres

betreffend Falsche Beschuldigung aufgrund fehlerhafter Gesichtserkennung

Am 4.2.2023 wurde in der Krone ein Bericht veröffentlicht, in welchem geschildert wird, dass sich ein unbeteiligter Bürger aufgrund fehlerhafter Gesichtserkennungssoftware plötzlich im Gefängnis wiederfindet. Die Geschichte beginnt am 23.05.2023, als in der Steiermark eine vermeintliche Kriminalbande zugeschlagen habe und zwar mit Falschgeld in Supermärkten Lebensmittel und Tierfutter eingekauft habe, unter der Aufsicht ihres "Chefs", der während der Zahlungen an den Kassen stets hinter ihnen gestanden habe. Die Betrügereien wurden rasch entdeckt; die Kriminalpolizei beschaffte sich in der Folge Überwachungsvideos aus den Geschäften und verfügte damit über Bilder der vermeintlichen Täter - und speiste sie in ein KI-Gesichtsfelderkennungsprogramm ein. In diesem sind Tausende Fotos von Personen, die hierzulande bereits erkennungsdienstlich behandelt worden waren, gespeichert. Das System identifizierte einige Rumänen als „Ausführer“, welche rasch gefasst werden konnten.

Die Gesichtserkennungs-KI schlug auch bei David P. an. Der KI nach sollte der Chef des Clans sein. Am 01.09.2023 wurde eine Festnahme angeordnet und ein internationaler Haftbefehl gegen ihn ausgestellt, obwohl es gar keine Anzeichen für seine Involvierung gegeben hatte. David P. wurde noch nicht einmal von den vermeintlichen Kollegen belastet. Auch wurde nicht versucht David P. an seiner Meldeadresse in Wien festzunehmen. Am 26.10.2023 wurde David P. auf einer Reise nach Serbien von dortigen Grenzwachbeamten angehalten und in ein Gefängnis in Serbien gebracht. Am 20.12.2023 wurde er nach Wien überstellt, tags darauf fand seine Einvernahme statt. In dieser stellte sich schnell heraus, dass er nicht der Gesuchte ist, weswegen er entlassen wurde.

Der Einsatz von Gesichtserkennungssoftware ist ein massiver Eingriff in das Recht auf Privatsphäre. Weiters hat sie starke Verzerrungseffekte (zB bzgl Hautfarben und Geschlechter) und hohe Fehlerquoten. Die Verwendung und Filterung nach Metadaten, die unweigerlich mit biometrischen Merkmalen verbunden sind, führt zu Racial Profiling. Generell ist die Verwendung von Gesichtserkennung,gefährlich und führt zu einer Einschränkung der Freiheit. Neben der Videoüberwachung selbst führt der Einsatz solcher Überwachungs- und Ermittlungsmaßnahmen zu einem sogenannten „chilling effect“: Die Menschen verhalten sich anders, wenn sie wissen, dass sie beobachtet werden. Das hat grundlegende soziale Auswirkungen.

Quellen:

https://www.krone.at/3234784

https://epicenter.works/thema/face-recognition

https://www.amnesty.at/presse/amnesty-fordert-aus-fuer-den-einsatz-von-gesichtserkennungstechnologie/

Die unterfertigten Abgeordneten stellen daher folgende

Anfrage:

1. Welche Erkenntnisse aus Ermittlungshandlungen wurden im gegenständlichen Fall gezogen, die dazu geführt haben, dass David P. als Beschuldigter geführt wird?

1. Bestanden neben dem Bildabgleich andere Beweismittel, die dazu geführt haben, dass David P. als Beschuldigter geführt wird?
2. Bestanden neben dem Bildabgleich andere Beweismittel, die dazu geführt haben, dass die Festnahme gegen David P. angeordnet wurde?
3. Welche weiteren Ermittlungshandlungen wurden im gegenständlichen Fall gesetzt?
4. Wieso wurde nicht versucht, David P. an seiner Meldeadresse feszunehmen?
5. Wann wurde der Bildabgleich vorgenommen?

i. Welche Übereinstimmungsrate (in %) hatte der Bildabgleich im gegenständlichen Fall?

6. Welche Maßnahmen wurden in Ihrem Ressort in Angesicht des fehlerhaften Ergebnisses gesetzt?

2. Wie viele Personen sind der Referenzdatenbank "Zentrale Erkennungsdienstliche Evidenz" gespeichert?

1. Findet der Datenausgleich weiterhin ausschließlich mit der Referenzdatenbank "Zentrale Erkennungsdienstliche Evidenz" statt?

i. Falls nein: mit welchen anderen Datenbanken findet der Abgleich statt?

ii. Findet ein Abgleich mit Bildern auf sozialen Medien statt?

2. Wie wird sichergestellt, dass die Gesichtserkennungssoftware keinen Verzerrungseffekt hat, der zur Diskriminierung, zB aufgrund von Geschlecht oder Hautfarbe, führt?

3. Wie oft wurde das Gesichtserkennungssystem des BMI in Anspruch genommen? (Bitte um Aufschlüsselung nach Jahren und nach Delikten)

1. In wie vielen Fällen kam es zu einem fehlerhaften positiven Bildabgleich?
2. Ab welcher Übereinstimmungsrate (in %) wird von einem positiven Bildabgleich ausgegangen?
3. Wie sieht die vorgesehene Verhältnismäßigkeitsprüfung für den Einsatz der Gesichtserkennungssoftware aus?

i. Gibt es bestimmte Erfordernisse, bevor die Gesichtserkennungssoftware zur Anwendung kommt?

4. In welchen Organisationseinheiten des BMI kommt die Gesichtserkennungssoftware zur Anwendung?
5. Auf welche Rechtsgrundlage stützt sich der Einsatz der Gesichtserkennungssoftware?

1. Wie sich aus der Anfragebeantwortung 3494/AB ergibt, reicht in Österreich bereits der Verdacht des Vorliegens einer vorsätzlichen gerichtlich strafbaren Handlung für die Verwendung des digitalen Bildabgleichs gemäß § 75 SPG aus. Hat sich die Rechtsgrundlage geändert oder stützt sich das BMI weiterhin auf § 75 SPG, was laut Expert:innen keine ausreichende Rechtsgrundlage schaftt?

6. Ist von Seiten des BMI eine Ausweitung des Einsatzes der Gesichtserkennungssoftware geplant?

1. Ist in diesem Zusammenhang auch eine Änderung des Sicherheitspolizeigesetzes geplant?
2. Wenn ja, inwiefern und für wann?

i. Gab es hierzu innerhalb Ihres Ressorts und mit anderen Ressorts Gespräche?

1. Wenn ja, welche, wann und mit wem?

7. In welchen Bereichen der Sicherheitsverwaltung und in jeweils welchen Fällen kommt die Gesichtserkennungssoftware zum Einsatz?

1. In wie vielen Fällen kam die Gesichtserkennungssoftware in jeweils welchem Bereich der SIcherheitsverwaltung zum Einsatz?

8. Kam es bis dato zu einer Evaluierung der Treffsicherheit der Geisichtserkennungssoftware im BMI?

1. Wenn ja, wann und wie oft?

i. Welche Erkenntnisse konnten gewonnen werden?

1. Welche Maßnahmen wurden daraufhin gesetzt?

ii. In Welchen Intervallen findet die Evaluierung statt?

2. Wenn nein, warum nicht?

9. Welche Erkenntnisse und Erfahrungen konnten aus dem nunmehr mehrjährigen Regelbetrieb des Gesichtserkennungssystems gewonnen werden?

1. Ist das BMI zur Einsicht gelangt, dass die Gesichtserkennungssoftware überaus fehlerhaft und grundrechtlich problematisch ist und eingestellt werden muss?

i. Wenn nein, warum nicht?