RN/65

14.36

Bundesrätin MMag. Elisabeth Kittl, BA (Grüne, Wien): Vielen Dank, Frau Präsidentin! Sehr geehrter Herr Staatssekretär! Liebe Kollegen und Kolleginnen! Liebe Gäste hier und vor den Bildschirmen! Ja, Digitalisierung kann Verwaltung einfacher, schneller und vor allem bürger:innenfreundlicher machen. Sie kann Zeit und Nerven sparen, und das ist ja grundsätzlich sehr gut, vollautomatisierte Bearbeitung von Akten bedeutet allerdings – wenn nicht dezidiert ausgeschlossen – den Einsatz von künstlicher Intelligenz. 

Ja, KI ist ein spannendes Werkzeug, aber es ist selbstlernend, und nicht umsonst warnen KI-Experten davor und fordern, dass die Entwicklung der KI verlangsamt und reglementiert wird. 

Wir machen heute aber genau das Gegenteil: Wir schaffen heute ein Gesetz, das es Verwaltungsbehörden – also nicht etwa digitalen Expert:innen, sondern Verwaltungsbehörden, wie zum Beispiel Gemeinden – ermöglicht, Bescheide und Strafen vollständig automatisiert mit KI zu erstellen. Heute wird die KI nicht eingeschränkt und sie wird auch nicht reglementiert, sondern wir machen sie zu einem staatlichen Instrument, und das ist das Problem. 

Aber gehen wir ins Detail und beginnen wir bei der Chatbot-Kommunikation. Ab nun soll die gesamte Kommunikation mit einem Chatbot in der Verwaltung zum Akteninhalt werden. Wir fragen uns: Ist es wirklich im Sinne des Rechtsstaates, wenn jede Frage oder jeder Irrtum, der in der Kommunikation mit der Behörde passiert, sofort Teil eines Verwaltungsaktes wird? Mich erinnert das ein bisschen an Überwachung. 

Zu begrüßen ist allerdings die Empfehlung, dass die Rechtsbelehrung durch den Chatbot in möglichst einfacher Sprache erfolgen soll, genauso wie bei den automatisiert erstellten Bescheiden eine Beilage hinzugefügt werden soll, in der der Bescheid und die Rechtsmittelbelehrung in einfacher Sprache zusammengefasst werden. Das sagen zumindest die Erläuterungen. 

Zu begrüßen ist, dass weiterhin automatisch zuerkannte, also ohne Antrag ausgestellte Leistungsbescheide, wie bei der Familienbeihilfe oder der Arbeitnehmer:innenveranlagung, eben tatsächlich automatisch ausgestellt werden. Das gibt es bereits, und sie werden mit regelbasiert programmierter Software erstellt, nicht mit KI. 

Nun soll es aber die Möglichkeit geben, Sachen vollständig automatisiert, auch mit maschinell lernender KI bescheidmäßig zu erledigen. Dann soll eben jede Gemeinde zum Beispiel ein System suchen – KI-basiert oder nicht –, um Bescheide automatisiert zu erstellen. 

Der Gesetzentwurf fordert, dass das eingesetzte System hinreichend nachvollziehbar sein muss. Die von der KI herangezogenen Daten sind aber, wir haben es schon gehört, selten nachvollziehbar. Es ist das bekannte Blackbox-Problem, auf das die Erläuterungen auch verweisen. 

Das bedeutet, dass wir nicht genau wissen können, auf welche Daten die KI für ihre Entscheidungsfindung zurückgreift. Damit besteht eindeutig die Gefahr von Diskriminierung und unsachlichen Entscheidungen. Aber diese Ungewissheit nehmen wir in Kauf. Nach den Erläuterungen reicht sogar der Stand der Erklärbarkeit. Die geforderte Gewährleistung eines maßgeblichen Einflusses der zuständigen Behörde auf die Bescheiderstellung ist damit auch meines Erachtens nicht erfüllt, vielmehr werden Tür und Tor für digitale Willkür geöffnet. 

Es gibt nun das Rechtsmittel der Vorstellung gegen diesen automatisiert erstellten Bescheid, das keiner Begründung bedarf und den Bescheid sofort außer Kraft setzt. Das ist gut so, und ich hoffe und ich gehe auch davon aus, dass darauf in der Rechtsmittelbelehrung dezidiert hingewiesen wird. 

Aber solche Systeme machen Fehler – wir kennen das. Und daher können, das wurde eben auch eingeführt, diese vollständig automatisiert erstellten Bescheide von Amts wegen innerhalb von zwei langen Monaten geändert oder aufgehoben werden. Ich weiß also zwei Monate lang nicht, ob der erlassene Bescheid an mich rechtsgültig bleibt oder nicht oder ob er geändert wird oder aufgehoben wird. Rechtskräftig ist dieser Bescheid nach Verstreichen der zweiwöchigen Vorstellungsfrist zwar, aber er kann trotzdem aufgehoben und geändert werden, und das ist unserer Meinung nach ein Treten der Rechtssicherheit mit Füßen.

Die Aussage auch im Ausschuss: Na da muss man halt zwei Monate warten, um die Rechtssicherheit zu haben!, verhöhnt meiner Meinung nach den Rechtsstaat. Nicht zu wissen, ob der automatisiert erzeugte Bescheid nun gilt oder nicht, ist meines Erachtens auch Rechtsunsicherheit in seiner Reinform. Auch die Formulierung, dabei „mit möglichster Schonung erworbener Rechte vorzugehen“, hilft da nichts, Willkür bahnt sich auch hier ihre Wege. 

Bei all dieser Rechtsunsicherheit kommt noch dazu, dass es um Existenzielles gehen kann. Es kann um Gesundheitsleistungen gehen, um Sozialhilfe, um Arbeitslosengeld oder um Asyl. Das sind keine technischen Fragen, sondern das sind solche, die Menschen und ihre Lebensgrundlagen in höchstem Maße beeinflussen. Und da Unsicherheit zu schaffen, erschüttert das Vertrauen in den Rechtsstaat, was gar nicht gut ist. 

Daher lehnen wir diese Gesetzesänderung, die ohne Notwendigkeit übers Knie gebrochen wurde, ab, denn nicht zuvor KI-Anwendungen oder die KI selbst zu reglementieren oder eben nicht zuvor eigene KI-Behörden zu schaffen, ist nicht gut.

Ja, wir brauchen eine Verwaltung, die digital fortschrittlich ist, aber sie muss gleichzeitig demokratisch kontrolliert bleiben. Wir brauchen auch eine Verwaltung, bei der die Bürger:innen dem Verwaltungshandeln vertrauen können, eine Verwaltung, die jene Menschen besonders schützt, die auf staatliche Leistungen angewiesen sind. – Vielen Dank. (Beifall bei den Grünen.)

14.42

Präsidentin Mag. Christine Schwarz-Fuchs: Als Nächste ist Frau Bundesrätin Mag. Bernadette Kerschler zu Wort gemeldet. – Bitte sehr.

Die angezeigte Rede ist noch nicht nach § 65 Abs. 2 GO-BR autorisiert.