11059/J XXVII. GP

Eingelangt am 19.05.2022
Dieser Text wurde elektronisch übermittelt. Abweichungen vom Original sind möglich.

Anfrage

 

 

der Abgeordneten Dr. Nikolaus Scherak‚ MA, Kolleginnen und Kollegen

an den Bundesminister für Inneres

betreffend EU-Verordnung zu Künstlicher Intelligenz

Der Einsatz von künstlicher Intelligenz (KI) ist allgegenwärtig. Sie begegnet jedem von uns bereits in vielen Anwendungen und ihr wird eine hohe Innovationskraft für unsere Gesellschaft zugeschrieben. Mit dem Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz (Gesetz über Künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union, hat die Europäische Kommission Ende April 2021 den weltweit ersten Rechtsrahmen ("AI Act") für KI vorgelegt und damit ein großes Projekt begonnen. Es soll der Einsatz von künstlicher Intelligenz nicht nur reguliert, sondern auch deren Akzeptanz unterstützt werden. 

Der Einsatz von KI als wesentliche technologische Entwicklung hat durchaus positive Auswirkungen (zB im Bereich der Gesundheitsvorsorge, Verkehrssteuerung), aber birgt auch Gefahren in sich (zB Social Scoring, Überwachung).

Der Umfang und die Bedeutung dieser Regulierung, die vom Gesundheitssektor über Bildung, Arbeitswelt bis hin zur Strafverfolgung alle denkbaren Lebensbereiche betrifft, zeigt sich schon an den Parlamentsausschüssen, die damit befasst sind. Beim „AI Act“ sind gleich zwei davon federführend, nämlich der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) sowie jener für Binnenmarkt und Verbraucherschutz (IMCO), vier weitere Ausschüsse tragen Positionen bei. Derzeit werden Änderungsanträge durch die Mitglieder der federführenden Ausschüsse erstellt und untereinander akordiert, als vorläufige Deadline dafür wurde der 18. Mai 2022 genannt.

Aktuell liegen bereits die ersten Änderungsanträge zum Kommissionsentwurf vor, die nach Ansicht der Kritiker_innen allerdings viel zu kurz greifen. Sie fordern ein Verbot „biometrischer Fernidentifikation“ an öffentlich zugänglichen Orten, damit ist in erster Linie die Kombination von Überwachungskameras und Software zur Gesichtserkennung gemeint (KI-Regulierung der EU steuert auf Kontroversen zu - fm4.ORF.at). Obwohl das Regelwerk dazu gerade erst in Arbeit ist, hat die EU-Kommission einen Forschungsauftrag ausgeschrieben, um KI-Anwendungen in mehreren Innenministerien der EU an echten Datensätzen zu trainieren. Ziel sei es, KI-Systeme zu validieren und den Einsatz von KI-Systemen durch Polizeibehörden zu ermöglichen. Dazu sollen KI-Anwendungen in mehreren Innenministerien der EU vor Ort anhand von echten Datensätzen trainiert werden (EU-Pilotprojekt mit "Hochrisiko"-KI für Polizeibehörden - fm4.ORF.at). Sohin ebnet das Vorhaben entgegen aller menschenrechtlichen Bedenken bei Umsetzung den Einsatz von KI Systemen durch Polizeibehörden (wie bspw. Gesichtserkennungssoftwares) den Weg. 

Bereits letztes Jahr veröffentlichte Amnesty International einen Bericht, der die menschenrechtlichen Folgen des Einsatzes von Gesichtserkennungssoftware festhält. Laut Amnesty International greift der Einsatz von Gesichtserkennungstechnologie, insbesondere der Einsatz von Gesichtserkennung in Echtzeit, massiv in die Grundrechte und allen voran in das Recht auf Privatsphäre ein. Darüber hinaus sind Gesichtserkennungstechnologien nach wie vor nicht vollständig abgetestet, fehleranfällig und bergen ein hohes Risiko der Diskriminierung von bereits marginalisierten Gruppen. Auch der "chilling effect" ist zu beachten: Menschen verhalten sich anders, wenn sie wissen, dass sie beobachtet werden. Dies kann etwa dazu führen, dass Bürger_innen aus Sorge vor Repressionen nicht mehr an Demonstrationen teilnehmen oder ihre Meinung nicht mehr äußern (amnesty.at, Mai 2021). 

Automatisierte Gesichtserkennungssoftware ist offenkundig gefährlich, fehleranfällig und höhlt die Privatsphäre der Bürgerinnen und Bürger aus. Dabei ist es ein wesentlicher Aspekt von Demokratien, dass sich ihre Bürger_innen grundsätzlich frei und unüberwacht öffentlich bewegen können. Aus diesem Grund, aber auch aufgrund technischer Probleme sahen sich sogar einige Länder und Städte, die begonnen hatten Gesichtserkennungssoftware einzusetzen, gezwungen, dies wieder zu beenden. Ein prominentes Beispiel ist San Francisco, das zur Auffassung gelangt ist, dass der Einsatz von Gesichtserkennungssoftware die Bürgerrechte verletzen könne und die Nachteile die Vorteile überwiegen würden. Durch den Einsatz von Geschichtserkennungstechnologien würden nicht nur rassistische Ungerechtigkeit verschärft, sondern auch die Möglichkeit bedroht, frei von ständiger Beobachtung durch die Regierung zu leben, war ihre Begründung (zeit.de, 15.5.2019).

Die Forderung nach Maßnahmen gegen Gesichtserkennungstechnologien sind jedoch nicht nur vereinzelt auf nationalstaatlicher Ebene, sondern auch vermehrt auf EU-Ebene zu vernehmen. Mitte April 2021 legte die EU-Kommission eine Verordnung (COM (2021) 206) vor, die algorithmenbasierte Systeme insbesondere bei der Massenüberwachung im öffentlichen Raum regulieren will. Laut Kommissionsvorschlag soll die biometrische Gesichtserkennung zu Strafverfolgungszwecken im öffentlichen Raum grundsätzlich verboten werden bzw. sollen strenge Auflagen für Werkzeuge zur „biometrischen Fernidentifizierung“ von Menschen etwa per Gesichts- oder Stimmerkennung gelten. Dieser Linie schlossen sich Mitte Juni 2021 darüber hinaus der EU-Datenschutzbeauftragte Wojciech Wiewiórowski sowie der Europäische Datenschutzausschuss an. In einer Stellungnahme äußerten sie ihre Bedenken in Bezug auf Systeme zur automatisierten Identifikation durch Biometrie heftig. Sie sehen in der flächendeckenden Nutzung der genannten Technologien das "Ende der Anonymität" in öffentlichen Räumen. "Anwendungen wie Gesichtserkennung in Echtzeit greifen so sehr in Grundrechte ein, dass sie womöglich die Essenz dieser Rechte und Freiheiten infrage stellen", erläuterten die Datenschützer  (derstandard.at, 22.6.2021). 

Die unterfertigten Abgeordneten stellen daher folgende

Anfrage:

 

  1. Wird sich Ihr Ressort an dem von der EU-Kommission ausgeschriebenen Forschungsauftrag im Zusammenhang mit den KI-Systemen durch Polizeibehörden beteiligen?
    1. Welche Länder beteiligen sich am Forschungsauftrag?
  1. Inwiefern setzen Sie sich auf europäischer Ebene gegen den vorgeschlagenen Entwurf für die Reglementierung von KI und das damit einhergehende Risiko der Überwachung mit Gesichtserkennungssoftwares ein?
  2. Sind Änderungen bei der aktuell in Österreich eingesetzten Gesichtserkennungssoftware aufgrund des Vorhabens der EU-Kommission für eine neue Verordnung zur Reglementierung von KI geplant oder wird der Einsatz der Gesichtserkennungssoftware trotz des geplanten unionsrechtlichen Vorhabens unverändert fortgesetzt?
  3. Wird die österreichische Position im Rat der Europäischen Union grundsätzlich für oder gegen das gegenständliche unionsrechtliche Vorhaben der Reglementierung von KI (insbesondere im Hinblick auf den Einsatz durch Polizeibehörden) sein?
    1. Wenn ja, warum?
    2. Wenn nein, warum?
  1. Gesichtserkennungstechnologien, insbesondere der Einsatz von Gesichtserkennung in Echtzeit, greifen massiv in die Grundrechte und allen voran in das Recht auf Privatsphäre ein. Darüber hinaus sind Gesichtserkennungstechnologien nach wie vor nicht vollständig abgetestet, fehleranfällig und bergen ein hohes Risiko der Diskriminierung von bereits marginalisierten Gruppen. Wird sich Ihr Ressort gegen den Einsatz von KI Systemen wie der Einsatz von Gesichtserkennungssoftwares einsetzen?
    1. Wenn ja, inwiefern?
    2. Wenn nein, weshalb nicht?
  1. Findet zur KI für Polizeibehörden ein Austausch mit anderen EU Ländern statt? Wenn ja, mit welchem Inhalt?