15665/J XXVII. GP

Eingelangt am 05.07.2023
Dieser Text wurde elektronisch übermittelt. Abweichungen vom Original sind möglich.

Anfrage

der Abgeordneten Dr.ⁱⁿ Petra Oberrauner, Genossinnen und Genossen

an den Bundesminister für Kunst, Kultur, öffentlichen Dienst und Sport

 betreffend Einsatz von KI in der öffentlichen Verwaltung

Die Digitalisierung und der damit einhergehende Einsatz von KI-Systemen beschreiben eine radikale Transformation, die praktisch alle Lebensbereiche durchdringt und auch die öffentliche Verwaltung und ihre Kommunikation mit den Bürgerinnen und Bürgern massiv verändern wird.

Sowohl die im Sommer 2021 veröffentlichte KI-Strategie der Bundesregierung als auch der kürzlich veröffentlichte Digital Austria Act planen den verstärkten Einsatz von KI, mit dem Ziel, die öffentliche Verwaltung moderner, effizienter und bürger:innenfreundlicher zu machen.

In der Vergangenheit hat sich aber auch immer wieder gezeigt, dass Systeme/Methoden die auf künstlicher Intelligenz basieren weder neutral noch frei von Fehlern sind. Sowohl bei der Entwicklung als auch bei der Anwendung können partikulare Interessen und vorurteilsbehaftete Trainingsdaten die Entscheidungsprozesse der KI beeinflussen. 

Da in der öffentlichen Verwaltung viele Entscheidungen getroffen werden, die schwerwiegend sind, weit in die Privatsphäre der in Österreich lebenden Menschen hineinreichen und deren Rechte und Freiheiten berühren können, muss der Einsatz von KI hier mit besonderer Transparenz, Sensibilität und Sorgfalt geplant und umgesetzt werden. 

Die unterfertigten Abgeordneten stellen daher folgende

ANFRAGE

1. Gibt es in Ihrem Ressort eine KI-Strategie?

a. Falls ja, welches Ziel, geben Sie in dieser Strategie vor und wo ist diese öffentlich nachlesbar?

b. Falls nein, warum nicht?

2. Kommen in Ihrem Ressort und nachgeordneten Behörden und Institutionen (teil-) automatisierte Entscheidungsprozesse, Mustererkennung und KI-Systeme zum Einsatz?

a. Falls ja, bitte genau angeben, in welchen Bereichen und wofür diese konkret zur Anwendung kommen.

3. Sind die oben genannten Systeme/ Anwendungen intern oder extern entwickelt und trainiert worden (bitte nach System/ Anwendung, Anbieter, Kosten und Umfang der Leistungen aufschlüsseln)?

a. Falls die Systeme/Anwendungen extern entwickelt und trainiert wurden, wurden diese Ausgeschrieben?

i. Falls nein, warum nicht?

b. Falls die Systeme/Anwendungen intern entwickelt und trainiert wurden, wie viele Personen arbeiten in Ihrem Ressort an deren Entwicklung und Training und welche Kosten sind damit verbunden?

4. Planen Sie zukünftig den Einsatz von (teil-) automatisierten Entscheidungsprozessen, Mustererkennung und KI-Systemen in Ihrem Ressort und nachgeordneten Behörden und Institutionen?

a. Falls ja, wo und wofür?  

5. Welche Art von Ergebnissen werden von den bereits im Einsatz befindlichen Systemen produziert bzw. sollen von den geplanten Systemen produziert werden (u.a. Entscheidungen, Entscheidungsvorschläge bzw. Empfehlungen, Bewertung z. B. von Risiken, Mustererkennung etc.)? 

6. Auf welcher Datenbasis werden diese Ergebnisse jeweils produziert, und wenn es sich um Anwendungen des Maschinenlernens handelt, mit welchen Daten werden diese Anwendungen trainiert?

7. Werden diese Entscheidungen/Bewertungen vollautomatisiert oder letztendlich noch immer durch einen Menschen getroffen?

a. Falls die letztendliche Entscheidung/ Bewertung noch durch einen Menschen getroffen wird, mit welchen Maßnahmen stellen Sie sicher, dass dieser Mensch eigenständig die Letztentscheidung trifft und nicht nur die automatisiert generierten Ergebnisse des Systems „legitimiert“?

b. Falls die letztendliche Entscheidung/ Bewertung vollautomatisiert erfolgt, warum wird kein Mensch mehr als Schlussinstanz eingeschaltet?

8. Wenden Sie bei der Entscheidung für oder gegen den Einsatz eines KI-Systems ein Risikoklassenmodell an?

a. Wenn ja, um welches Risikoklassenmodell handelt es sich?

b. Ist es nach Bewertung mittels Risikoklassenmodell bereits zu einer Entscheidung gegen den Einsatz eines KI-Systems gekommen?

i. Falls ja, um welches KI-System handelt es sich, wo sollte es eingesetzt werden und warum wurde es abgelehnt?

9. Findet im Rahmen der Entscheidungsfindung für oder gegen den Einsatz eines KI-Systems eine genau Überprüfung statt, mit welchen Daten das System trainiert wurde bzw. trainiert werden soll, um einen möglichen Daten-Bias zu verhindern?

a. Falls ja, durch wen wird diese Prüfung durchgeführt?

b. Falls nein, warum nicht?

10. Gibt es Nachhaltigkeitskriterien (bspw. mit Blick auf den Energie- und Wasserverbrauch), die ein KI-System erfüllen muss, damit es in Ihrem Ressort eingesetzt werden kann?

a. Falls ja, wie lauten diese?

b. Falls nein, warum nicht? 

11. Wie wurden/werden diejenigen in Ihrem Ressort geschult, die über den Einsatz der KI-Systeme in Ihrem Ressort entscheiden, um die zur Auswahl stehenden Systeme bewerten zu können?

12. Wie und durch wen wurden/ werden diejenigen in Ihrem Ressort geschult, die die in Ihrem Ressort eingesetzten KI-Systeme anwenden sollen?

13. Finden Evaluierungen der in Ihrem Ressort und nachgeordneten Behörden und Institutionen eingesetzten (teil-) automatisierten Entscheidungsprozesse, Mustererkennungen und KI-Systeme statt?

a. Falls ja, durch wen, in welchem Abstand und - bei bereits durchgeführten Evaluationen – mit welchem Ergebnis?

b. Falls nein, warum nicht?

14. Für wen wurden/werden die Evaluationsergebnisse zugänglich gemacht und wie werden die bisherigen Evaluationsergebnisse für zukünftige (Weiter-) Entwicklungen berücksichtigt?

15. Wurden in ihrem Ressort und nachgeordneten Behörden Mitarbeiter:innen durch den Einsatz von KI ersetzt oder planen Sie durch den Einsatz von KI Mitarbeiter:innen zu ersetzen?

a. Falls ja, in welchem Bereich?

16. In welcher Form werden in ihrem Ministerium und nachgeordneten Behörden die Mitarbeiter:innen einbezogen, wenn es darum geht den Einsatz von KI-Systemen in ihrem Ressort zu planen und umzusetzen?