18306/J XXVII. GP
Eingelangt am 12.04.2024
Dieser Text ist elektronisch textinterpretiert. Abweichungen vom Original sind
möglich.
Anfrage
der Abgeordneten Katharina Kucharowits,
Genossinnen und Genossen,
an die Bundesministerin für Justiz
betreffend „Aktionsplan Deepfakes - Was ist hier bereits passiert?“
Deepfakes sind eine reale Bedrohung für die innerstaatliche Sicherheit und die Demokratie in Österreich. Um der Gefahr von Deepfakes entgegenzuwirken wurde am 18. Jänner 2023 der Aktionsplan Deepfakes im Ausschuss für innere Angelegenheiten von allen Fraktionen angenommen und Innenminister Karner übermittelt.[1] Der Aktionsplan wurde im Rahmen einer interministeriellen Arbeitsgruppe bestehend aus Vertreter:innen des Bundeskanzleramts (BKA), des Bundesministeriums für europäische und internationale Angelegenheiten (BMEIA), des Bundesministeriums für Justiz (BMJ), des Bundesministeriums für Landesverteidigung (BMLV) unter Federführung des Bundesministeriums für Inneres (BMI) erstellt.
Im Aktionsplan werden drei mögliche Bedrohungslagen genannt, die mithilfe gezielter Maßnahmen verhindert werden müssen. Im Unterkapitel Sicherheitspolitik spricht man von folgenden möglichen Szenarien:
• Ein falsches Video, das mittels Kl hergestellt wurde, zeigt ein Staatsoberhaupt oder ein Regierungsmitglied, wie dieses Dinge sagt, die in Folge zu Massendemonstrationen und einer Regierungs- und Staatskrise führen könnte.
• Ein einziges spektakuläres Video, das ausgesprochen realistisch ist, führt zu einer Kette von Reaktionen in anderen Bereichen wie dem Zusammenbruch der Aktienmärkte oder Wahlbeeinflussung.
• Desinformationskampagnen durch ausländische Akteurinnen und Akteure: Man muss davon ausgehen, dass die Technologie sowohl von anderen Staaten als auch von terroristischen Organisationen für ihre Zwecke eingesetzt werden wird.
Um diesen Szenarien entgegenzuwirken werden im Aktionsplan auch Antworten genannt, die etwa eine Wahlbeeinflussung verhindern sollen. Es soll ein effektiver und koordinierter Krisenmanagementmechanismus aufgebaut werden, die Bevölkerung sensibilisiert werden, ein Softwaretool zur Detektion von Deepfakes entwickelt und geschaffen werden, die europäische und internationale Zusammenarbeit verstärkt werden und der European Democracy Action Plan auf nationaler Eben umgesetzt werden.[2]
Vorkommnisse aus anderen Ländern, beispielsweise den USA, zeigen, welche Brisanz und welchen Einfluss Deepfakes auf bevorstehende Wahlen haben können und wie wichtig die Umsetzung solch nationaler Aktionspläne auch ist. Bereits vor den ersten Vorwahlen der US-Demokrat:innen in New Hampshire gab es einen Versuch der Wahlbeeinflussung durch Deepfakes. Wähler:innen erhielten gefälschte Anrufe mit der nachgeahmten Stimme von US-Präsident Joe Biden, die von ihm aufgefordert wurden nicht zu den Vorwahlen zu gehen und ihre Stimme für die Wahlen im November aufzusparen. Die Kl-Stimme war vom echten Biden akustisch wohl nicht zu unterscheiden. Der Generalstaatsanwalt von New Hampshire hat angekündigt, er untersuche den offensichtlich "unrechtmäßigen Versuch, die Vorwahlen in New Hampshire zu stören und die Wähler zu unterdrücken".[3]
Etwa ein Jahr nach Übermittlung des Aktionsplans stellt sich die Frage, welche vorgenommenen Maßnahmen bereits umgesetzt wurden und in welchen Bereichen noch Handlungsbedarf besteht. Die unterfertigten Abgeordneten stellen daher folgende
Anfrage
1. Auf Seite 24 des Aktionsplans werden geplante Maßnahmen genannt, die umgesetzt werden müssen. Die geplanten Maßnahmen werden in vier Handlungsfelder untergliedert: Strukturen und Prozesse, Governance, Forschung und Entwicklung, Internationale Zusammenarbeit. Welche, der aufgezählten Maßnahmen der vier Handlungsfelder, wurden bereits umgesetzt? (Bitte um genaue Auflistung nach Handlungsfeld und was genau passiert ist.)
2. Auf Seite 12 des Aktionsplans wird von der nationalen Umsetzung des European Democracy Action Plan gesprochen. Wurde dieser bereits umgesetzt?
a. Wenn ja, wann wurde dieser umgesetzt?
b. Wenn ja, geschah diese Umsetzung Ministeriumsübergreifend?
i. Wenn ja, welche Ministerin waren hier eingebunden?
c. Wenn ja, welche konkreten Maßnahmen wurden hier gesetzt?
d. Wenn nein, wieso wurde dieser noch nicht umgesetzt?
3. Wurden, wie im Aktionsplan genannt, Sensibilisierung, Schulungen für die ermittelnden Beamt:innen, Staatsanwält:innen und Richter:innen entwickelt?
a. Wenn ja, welche konkreten Inhalte und Ziele haben diese Schulungen?
b. Wenn ja, fanden bereits Schulungen statt?
c. Wenn nein, wieso nicht?
4. Im Aktionsplan heißt es auf S. 19: „Nicht zuletzt könnte die Herstellung und Verbreitung eines Deepfakes auch im Wege des neuen, durch das Hass-im-Netz-Bekämpfungs-Gesetz mit 1. Jänner 2021 eingeführten Mandatsverfahrens nach § 549 ZPO bekämpft werden, wenn es sich um eine „erhebliche, eine natürliche Person in ihrer Menschenwürde beeinträchtigenden Verletzung von Persönlichkeitsrechten“ handelt.“ Kam es seit der Einführung des Hass-im-Netz-Bekämpfungs-Gesetz mit 1. Jänner 2021 zu einer solchen Bekämpfung? (Bitte um genaue Auflistung der Anzahlen dieser , nach Bundesländern und Monaten.)
5. Im Aktionsplan heißt es auf S. 19 im Themenfeld Recht außerdem: „Ein detailliertes Einbeziehen ethischer, demokratiepolitischer sowie grund- und menschenrechtlicher Aspekte (einschließlich Kinder-und Jugendschutz) sowie entsprechende internationale Zusammenarbeit auf EU- und internationaler Ebene ist im Bereich der Deepfake Problematik sehr wichtig.“ Kam es hier zu einem Einbeziehen der genannten Aspekte sowie zu einer internationalen Zusammenarbeit durch ihr Ministerium?
6. Welche konkreten Maßnahmen werden noch dieses Jahr durch Ihr Ministerium umgesetzt, um die Gefahr der Deepfakes als Wahlbeeinflussung vorzubeugen?
a. Wann werden diese konkreten Maßnahmen gesetzt?
7. Kam es, wie im Aktionsplan genannt, zu einem koordinierten Austausch mit Internetplattformen, Providern und unabhängigen Fact-Checker Plattformen?
a. Wenn ja, welche konkreten Ergebnisse gab es hier?
b. Wenn nein, wieso nicht?
8. Gibt es bereits interministerielle Gespräche, um die Gefahren von Deepfakes zu verhindern?
a. Wenn ja: Wie ist der Stand dieser Gespräche?
b. Wenn ja: Welche Ministerien bzw. Ministerkolleg:innen von Ihnen sind in diese eingebunden?
c. Wenn nein: Wieso nicht?
9. Wo sehen Sie als Justizministerin nach einem Jahr der Übermittlung des Aktionsplans weiterhin dringenden Handlungsbedarf?
10. Stehen Sie – nachdem es sich bei Deepfakes um eine große Herausforderung über die österreichischen Grenzen hinaus handelt – mit ihren Kolleg:innen auf europäischer Ebene in Kontakt?
a. Falls ja: Welche Herausforderungen werden dort als zentral gesehen und gibt es europäische Initiativen, um gegen Wahlbeeinflussung durch Deepfakes vorzugehen?
b. Falls nein: Wieso nicht?