RN/79
Bericht des Verfassungsausschusses über die Regierungsvorlage (539 d.B.): Bundesgesetz, mit dem das Allgemeine Verwaltungsverfahrensgesetz 1991 und das Verwaltungsstrafgesetz 1991 geändert werden (611 d.B.)
Präsidentin Doris Bures: Auf eine mündliche Berichterstattung wurde verzichtet.
Ich begrüße Herrn Staatssekretär Pröll im Hohen Haus und erteile Herrn Abgeordnetem Markus Tschank das Wort.
RN/80
14.47
Abgeordneter Dr. Markus Tschank (FPÖ): Danke, Frau Präsidentin! Sehr geehrter Staatssekretär! Kolleginnen und Kollegen! Liebe Zuseherinnen und Zuseher zu Hause! Wir diskutieren heute eine AVG-Novelle der Regierung, mit der menschliches Handeln durch Anwendung künstlicher Intelligenz ersetzt werden soll: Der vollständige automatisierte Bescheid für Verwaltungshandeln soll eingeführt werden.
Diese AVG-Novelle kann aus freiheitlicher Sicht folgendermaßen zusammengefasst werden: zu unbestimmt, zu weitreichend und verfassungsmäßig fragwürdig, wenn nicht sogar verfassungswidrig. (Abg. Zorba [Grüne]: Recht hat er!) Nach der Regierungsvorlage sollen Behörden nun vollständig automatisierte Bescheide erlassen können, ohne dass je ein Mensch die konkrete Entscheidung vor ihrer Ausfertigung genehmigt hat.
Meine heutige Rede hätte ich ganz einfach die KI schreiben lassen können, habe ich aber nicht gemacht. In meinem Beruf, sehr geehrte Damen und Herren, ist das ein No-Go. Die KI ist und bleibt ein Hilfsdienst. Menschliche Einschätzungsfähigkeit kann nicht durch künstliche Intelligenz ersetzt werden, nicht heute und auch nicht in Zukunft. (Beifall bei der FPÖ. – Abg. Shetty [NEOS]: Ihr habt ein Plakat mit KI gemacht, wo Frauen und Männer vertauscht wurden! Ihr habt die Geschlechter aufgehoben mit der KI!)
Neben den Chancen, die die künstliche Intelligenz bringen kann und die wir auch gemeinsam entwickeln müssen, dürfen wir die Risiken dieser Evolution nicht aus den Augen verlieren. Erst vor wenigen Wochen haben namhafte KI-Unternehmer vor der Entwicklung von KI-Modellen gewarnt. Der Chef des KI-Unternehmens Anthropic hat in einem Essay dazu aufgerufen, das Tempo zu verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern können. Der Sicherheitschef von Anthropic gab bekannt, er schätze das Risiko, dass KI im Laufe des nächsten Jahrzehnts alle Menschen tötet, auf über 10 Prozent ein. Das ist zwar kein Grund zur Panik, aber es ist auch kein unbeachtlicher Prozentsatz, der da genannt wird.
Vor allen Dingen warnen viele Experten vor einem schleichenden Kontrollverlust, der durch die Anwendung künstlicher Intelligenz Platz greifen könnte.
Lassen Sie mich für meine Fraktion klarstellen: Die künstliche Intelligenz ist nicht aufzuhalten. Wir müssen lernen, damit umzugehen. Sie ist vernünftig zu entwickeln, die Sicherheitsstandards sind einzuhalten und es wird eine Herausforderung der kommenden Jahre werden, wie wir damit entsprechend umgehen.
Die Regierungsvorlage, die Sie heute hier vorlegen, birgt für uns aber einfach zentrale Risiken. Die KI-Modelle, wie sie heute sind, wie sie heute dem Stand der Technik entsprechen, sind fehleranfällig. Wir haben mit Halluzinationen zu kämpfen, die eben nicht ausgeschlossen werden können. Ein KI-System erklärte erst vor Kurzem Vizekanzler Babler fälschlicherweise zum ehemaligen Regierungsmitglied und erfand zugleich eine weitere Bundesministerin. (Abg. Darmann [FPÖ]: Das zeigt, dass die KI auch hoffen kann!) Liebe SPÖ, ihr wünscht euch vielleicht, dass Herr Babler verschwindet, die Realität sieht aber anders aus. Noch ist er hier und damit müsst ihr euch halt auch befassen. (Ruf bei der SPÖ: Du bist so lustig! – Weitere Zwischenrufe bei der SPÖ.)
Mit dem neuen § 18a AVG – und das ist auch unsere zentrale Kritik an der Regierungsvorlage – erlassen Sie eine Vorratsermächtigung für KI-Bescheide ohne klar definierte Schranken. Die Sache muss nach dem Stand der Technik für KI-Anwendung geeignet sein: Was heißt das? Wer entscheidet das und welches Ermessen wird da eingeräumt?
Sehr geehrter Herr Staatssekretär, die Regierungsvorlage ist uferlos, diese Ermächtigung ist uferlos. Das stellt für uns ein völlig unnötiges Risiko dar, denn es wäre ein Einfaches gewesen, hier ganz klar abgesteckte Verfahrensarten zu schaffen, für die man dieses Instrument anwenden kann. (Ruf bei der ÖVP: ... keine Ahnung!) Die menschliche Einschätzungsfähigkeit – und da setzen wir zentral an – soll gesetzlich zum Teil wegrationalisiert werden. Wir müssen uns fragen: Wollen wir wirklich zulassen, dass menschliches Handeln durch KI ersetzt wird? – Für uns kann ich jedenfalls sagen: Wir wollen das nicht. – Vielen Dank. (Beifall bei der FPÖ.)
14.51
Präsidentin Doris Bures: Nächster Redner: Herr Abgeordneter Wolfgang Gerstl.
RN/81
14.52
Abgeordneter Mag. Wolfgang Gerstl (ÖVP): Digitalisierung darf nicht nur den Bürger entlasten (Abg. Darmann [FPÖ]: Amen!) – sie muss auch den Staat von unnötiger Bürokratie befreien. – Sehr geehrte Frau Präsidentin, unsere Lebensrealität verändert sich rasant. (Abg. Zorba [Grüne]: Stimmt!) Wir erleben einen technologischen Wandel in einer Geschwindigkeit, die vor wenigen Jahren noch kaum vorstellbar war. Künstliche Intelligenz und automatisierte Systeme verändern, wie wir arbeiten, kommunizieren und Dienstleistungen in Anspruch nehmen. Jeder von uns kennt das, wie er mit seinem Handy und mit allen seinen Utensilien, die er heute in der digitalen Welt zur Verfügung hat, umgeht. Auch der Staat muss aber am Zahn der Zeit bleiben, auch unsere Verwaltung muss mit der technologischen Entwicklung Schritt halten. Dafür schaffen wir als Gesetzgeber die rechtlichen Voraussetzungen. (Abg. Zorba [Grüne]: Nicht!)
Ein Blick nach Großbritannien zeigt – der „Economist“ hat schon im August darüber berichtet –, warum das notwendig ist: Dort sind Arbeitsgerichte mit einer extrem wachsenden Zahl KI-generierter Eingaben überlastet worden, mit Eingaben, die die Gerichte einfach nicht mehr bewältigen können. All diese Eingaben wurden mit künstlicher Intelligenz erstellt. Das heißt, der Einzelne kann mit künstlicher Intelligenz 100 Seiten einer Beschwerde, ein Rechtsmittel sofort produzieren lassen, aber der Staat sollte auf der anderen Seite – bildlich gesprochen – mit der Schreibmaschine weiterarbeiten? – Nein, meine Damen und Herren. (Abg. Zorba [Grüne]: Faxgerät! Das haben wir auch nicht abgeschafft!)
Wir schaffen deshalb gerade mit dieser Novelle die rechtsstaatliche Grundlage dafür, dass unsere Verwaltung weitere Möglichkeiten der Digitalisierung nutzen kann. Wir schreiben dabei aber nicht die Technologie von heute oder von morgen fest, sondern lassen einen technologieoffenen Rahmen, in dem neue technische Möglichkeiten unter klaren rechtsstaatlichen Regeln eingesetzt werden können. (Abg. Zorba [Grüne]: Na, sehe ich nicht! Wo sind die?) Damit ermöglichen wir den Einsatz digitaler Systeme dort, wo er sinnvoll ist, und nur dort, wo er wirklich sinnvoll ist. (Neuerlicher Zwischenruf des Abg. Zorba [Grüne].)
Im Rahmen unserer Ausschussberatungen wurden auch einige Bedenken dazu geäußert. Wir haben diese ernst genommen und uns deshalb damit auch in einer zusätzlichen Besprechung nochmals ausführlich auseinandergesetzt. (Abg. Zorba [Grüne]: Ja, aber nichts geändert! Nichts geändert!) Lassen Sie mich eines ganz klar dazu sagen: Es wird keine Entscheidung geben, die einfach einer künstlichen Intelligenz überlassen wird. Im Gegenteil: Automatisierungen, KI-Anwendungen und Digitalisierungen können immer nur dort zum Einsatz kommen – und so steht es nun im Gesetz, das wir jetzt beschließen wollen –, wo die Sache „im Hinblick auf den maßgeblichen Sachverhalt, die zu lösenden Rechtsfragen und den Stand der Technik für eine vollständig automatisierte schriftliche Erledigung geeignet“ ist. (Abg. Zorba [Grüne]: Was heißt das zum Beispiel? Was heißt das?)
Schlussendlich, wenn Sie noch immer unsicher sind, lieber Herr Kollege von den Grünen (Abg. Zorba [Grüne]: Na, was heißt das? Ein Beispiel!) oder auch der Kollege von den Blauen: Darauf achtet ganz zuletzt der Verfassungsgerichtshof und der setzt uns da sehr, sehr enge Grenzen, wann und mit welchen Mitteln wir diese Technik entsprechend einsetzen dürfen. (Abg. Zorba [Grüne]: Also jetzt ist der Verfassungsgerichtshof dafür zuständig!) Jede Verwaltungseinheit hat das für sich selbst zu entscheiden.
Jeder hat aber auch die Möglichkeit – und das möchte ich abschließend auch sagen –, gegen einen solchen automatisierten Bescheid innerhalb von zwei Wochen Vorstellung zu erheben. Damit tritt die automatisierte Entscheidung außer Kraft und es findet dann ein reguläres Verfahren statt. Meine Damen und Herren, viele von Ihnen werden das von den Anonymverfügungen im Straßenverkehr kennen, wenn Sie eine solche erhalten haben – diese sind auch automatisiert erstellt –: Man erhebt damit Einspruch und bekommt ein ordentliches Verfahren, das von Menschen begleitet wird.
Zusammengefasst heißt das: Digitalisierung und künstliche Intelligenz sollen den Menschen unterstützen, aber niemals zur Gänze ersetzen. Genau das stellen wir mit dieser Vorlage sicher. – Vielen Dank. (Beifall bei der ÖVP.)
14.56
Präsidentin Doris Bures: Nächster Redner: Herr Abgeordneter Süleyman Zorba.
RN/82
14.56
Abgeordneter Süleyman Zorba (Grüne): Sehr geschätzte Frau Präsidentin! Geschätzte Kolleginnen und Kollegen! Werte Zuseherinnen und Zuseher! Jeder von uns kennt es und hat es in letzter Zeit schon erlebt: Überall möchte man KI draufklatschen – auf Zahnbürsten, auf Kühlschränke und dank unserer Bundesregierung in Zukunft auch bei – unter Anführungszeichen – „angeblich“ rechtsgültigen Bescheiden. Wer den Kolleginnen und Kollegen der Regierungsparteien zugehört hat – auch den Anmerkungen in den letzten Wochen und Monaten –, der könnte glauben, ab morgen läuft in Österreich alles schneller, einfacher und rund um die Uhr. Wenn wir diese schönen Stehsätze einmal zur Seite legen und uns das Gesetz anschauen, dann sehen wir etwas anderes. (Präsident Rosenkranz übernimmt den Vorsitz. )
Erstens: Durch dieses Gesetz wird kein einziges Verfahren einfacher oder schneller. Man öffnet eine Tür, vergisst aber, Regeln aufzustellen, und das Witzigste – oder vielleicht auch das Traurigste, je nachdem, wie man das sieht –: Es wird viel von künstlicher Intelligenz gesprochen, der Begriff kommt in diesem Gesetzentwurf aber kein einziges Mal vor. Darin steht, dass man in Zukunft Bescheide vollautomatisch abwickeln möchte, und das mit ein paar allgemeinen Vorgaben, auch möglich mit künstlicher Intelligenz. Dann hat man ein paar technische Schranken eingezogen, zum Beispiel, dass es nachvollziehbar sein muss. Jeder, der mit künstlicher Intelligenz gearbeitet hat, weiß, dass die Nachvollziehbarkeit da nicht immer gegeben ist. Also hat man sich in den Erläuterungen ein bisschen ausgetobt und versucht, irgendwie herumzuargumentieren, damit künstliche Intelligenz reinpasst. Gegen Automatisierung in Verfahren und bei Bescheiden hat niemand etwas, aber ich glaube, man hat da zuerst den Wunsch geäußert, irgendetwas mit KI machen zu wollen, und hat sich dann angeschaut, was man damit überhaupt lösen könnte.
Zweitens: Wo soll das überhaupt zum Einsatz kommen? Wo sollen die automatischen Bescheide mit oder ohne KI zum Einsatz kommen? – Darüber bestimmt nicht das Parlament, sondern die jeweils zuständigen obersten Behörden. Das geht bis runter zum Gemeinderat. Wenn irgendeine Behörde auf irgendeiner Ebene beschließt, KI einzusetzen, dann stellen sich ein paar Fragen, zum Beispiel welche Modelle eingesetzt werden sollen, wie es mit dem Datenschutz ausschaut, wo die Daten der Bürgerinnen und Bürger liegen und wie es überhaupt zu diesen Entscheidungen kommt – und das wissen wir nicht.
Der Herr Kollege hat es eh vorhin angesprochen, ich habe im Ausschuss halt gefragt: Na, wie schaut das denn aus? Wie kommt die Behörde zu ihrem KI-Modell, das da arbeiten soll? Der Kollege hat gemeint, dass die Behörden dann ihre eigene KI aufbauen werden. Jeder, der sich in den letzten Jahren nur ansatzweise mit künstlicher Intelligenz auseinandergesetzt hat, weiß, wie absurd diese Aussage ist. (Beifall bei den Grünen.)
Ich sitze ja selber auch im Gemeinderat in Traismauer und ich glaube, zwischen Budgetsitzungen und Kanalsanierungen wird der Gemeinderat in Traismauer keine künstliche Intelligenz trainieren. Das halte ich für ausgeschlossen. (Beifall bei den Grünen. – Heiterkeit des Abg. Darmann [FPÖ].)
Auch der Herr Staatssekretär hat ein Argument gebracht, das mich zum Nachdenken bewegt hat. Er hat gemeint, dass ja auch Bürgerinnen und Bürger KI verwenden, um zum Beispiel Dokumente zu schreiben, um mit den Behörden in Kontakt zu treten. – Ja, Herr Staatssekretär, das stimmt, nur dass die Bürgerinnen und Bürger keine rechtsgültigen Bescheide schreiben müssen, die Behörden aber schon. (Beifall bei den Grünen.)
Jetzt kommt eigentlich das Traurigste an diesem Gesetz: Wer trägt das Risiko? Viele Expertinnen und Experten, Leute, die sich mit KI auseinandersetzen, und auch Leute, die sich mit der Verwaltung auseinandersetzen, haben davor gewarnt; und viele Punkte sind da offen: wer die Verantwortung trägt; was passiert, wenn Fehler passieren. Fehler werden passieren, das gesteht man ja auch in den Erläuterungen ein. Der einzige Safeguard ist: wenn etwas passiert, kann man ja innerhalb von zwei Wochen Einspruch erheben, wenn man irgendwo einen Fehler findet, und dann kann man ja darauf pochen, dass ein Mensch auf diesen Antrag schaut. Das heißt, der einzige Schutz davor ist: Man kann Einspruch erheben.
Das nächste Problem betrifft die Rechtssicherheit. Stellen wir uns eine Frau Huber vor, die einen Bescheid bekommt. Sie geht davon aus, dass der rechtsgültig ist, und arbeitet mit diesem Bescheid weiter. Jetzt haben aber die Behörden die Möglichkeit, wenn sie das vollautomatisiert gelöst haben, dass sie innerhalb von zwei Monaten diesen Bescheid aufheben können – ohne Angabe von Gründen, nur bei einem Verdacht von einem Fehler. Fehler könnten passieren, wenn man das mit künstlicher Intelligenz macht. Ich weiß nicht, ob das die Rechtssicherheit ist, von der man spricht. (Beifall bei den Grünen.)
Verstehen Sie mich nicht falsch, ich bin ein großer Freund der Digitalisierung in der Verwaltung, wenn man auch viele Dinge erleichtert und vielleicht schneller macht. Wir haben auch angeboten, diesen Entwurf gemeinsam zu überarbeiten, haben einen Vertagungsantrag gestellt. Der wurde abgelehnt. Somit ist auch klar, wer dann in Zukunft die Verantwortung dafür trägt.
Also was bleibt am Ende übrig? – Irgendwas mit KI, irgendwas mit Entbürokratisierung, am Ende des Tages heiße Luft. – Danke schön. (Beifall bei den Grünen.)
15.01
Präsident Dr. Walter Rosenkranz: Als Nächste zu Wort gemeldet: Frau Abgeordnete Duzdar. Eingemeldete Redezeit: 4 Minuten. – Bitte, Frau Abgeordnete.
RN/83
15.01
Abgeordnete Mag. Muna Duzdar (SPÖ): Sehr geehrter Herr Präsident! Sehr geehrter Herr Staatssekretär! Werte Kollegen und Kolleginnen! Vielleicht vorab zu Abgeordnetem Tschank, der gesagt hat, dass mit dieser Novelle menschliches Handeln durch die KI ersetzt wird: Ich weiß nicht, Herr Abgeordneter, ich glaube, wir haben zwei verschiedene Regierungsvorlagen gelesen. Sie wissen ganz genau, dass das nicht der Fall ist. Ich finde das ja auch sehr spannend, dass das von der FPÖ kommt. Wie viele Hunderte KI-generierte Anfragen haben Sie an die Ministerien gestellt? Dass jetzt so KI-kritische Töne kommen, finde ich ja höchst interessant. (Abg. Tschank [FPÖ]: ... Frau Kollegin!)
Aber zurück zum Thema, also auch zu Abgeordnetem Zorba: Ich bin froh, dass ich jetzt vielleicht ein paar Dinge ins richtige Licht rücken kann. (Abg. Zorba [Grüne]: Bitte darum!) Es geht um ein Stück mehr Digitalisierung bei den Verfahren in der Verwaltung. Vielleicht ist bei der Vermarktung dieses Gesetzes zu viel von KI gesprochen worden, aber ich glaube, wir hatten die Möglichkeit, im Verfassungsausschuss wirklich viele Bedenken aus dem Weg zu räumen. Sie haben gehört, dass es eben nicht darum geht, da eine KI zu beauftragen, die Sachverhalte verarbeitet. Oftmals, wie es halt auch in verschiedenen Berufen getan wird, beauftragt man eine KI, sie möge eben einen komplexen Sachverhalt verarbeiten, bearbeiten, Beweise würdigen, Interessen abwägen. (Abg. Zorba [Grüne]: Alles nicht ausgeschlossen, das ist alles nicht ausgeschlossen!) Das passiert eben nicht, sondern es geht in Wirklichkeit, gerade bei den schriftlichen Erledigungen, die jetzt erfolgen sollen, um eine Automatisierung: um eine Automatisierung von Daten, um eine Automatisierung von Informationen, die vorliegen. Daher ist dieser Einsatz, der da zur Anwendung kommt (Abg. Zorba [Grüne]: Aber was wird eingesetzt?), in Wirklichkeit ein Automatisierungsprozess – und nicht so, wie Sie es behaupten, dass jetzt in Bausch und Bogen die KI eingesetzt wird (Abg. Zorba [Grüne]: Das sagts ihr!) und die Menschen da überhaupt nicht mehr geschützt werden. (Abg. Zorba [Grüne]: Na, er sitzt neben dir! Sag’s ihm, nicht mir! Sag’s dem neben dir!) Das stimmt halt einfach nicht.
Ich glaube, es ist halt auch wichtig, hier zu sagen: Wenn jemand das eben nicht will, und er, wenn es wirklich um ganz, ganz einfache Sachverhalte geht, keinen vollautomatisierten Bescheid haben möchte, dann kann er sich dagegen wehren. (Abg. Zorba [Grüne]: Nachher! Einspruch! Danach!) Dann kann er sagen, er will das nicht, und innerhalb von zwei Wochen kann er eine Vorstellung machen; und damit wird dieser Automatisierungsprozess außer Kraft gesetzt, und es gibt dann einen Bescheid, der von einem Menschen gemacht wird.
Ich glaube, wichtig ist auch, in diesem Zusammenhang zu betonen, dass es um Entscheidungen und um Erledigungen von Behörden der ersten Instanz geht, und dass das mit den Verwaltungsgerichten überhaupt nichts zu tun hat und letztlich digitale Elemente in der Verwaltung eingesetzt werden, um Prozesse zu vereinfachen und auch mehr Service für die Bürger und Bürgerinnen anzubieten. (Abg. Zorba [Grüne]: Aber das ist ja jetzt nichts Neues, das haben ... schon!) Nämlich Dinge, die jetzt schon zum Teil passieren - - (Abg. Zorba [Grüne]: Ja, ja!) – Ja, stimmt, nämlich (Abg. Zorba [Grüne]: Aber der Mann, der neben Ihnen sitzt, der ...!) dass man, ohne einen Antrag zu stellen, Leistungen wie die Familienbeihilfe, wie die Arbeitnehmerveranlagung beziehen kann; denn wenn der Staat bereits alle notwendigen Informationen hat, sollen Menschen nicht nochmals einen Antrag stellen und Daten bekannt geben müssen, die der Verwaltung ja ohnehin schon vorliegen. (Abg. Zorba [Grüne]: Das hat nichts mit KI zu tun!) Es hilft also Menschen, die eben keinen Antrag stellen müssen.
Daher glaube ich, ist diese Novelle hier wirklich nicht der richtige Ort dafür, da so zu tun, als ob jetzt ausschließlich die KI eingesetzt wird und menschliches Handeln ersetzt wird. Es stimmt einfach nicht – und es ist mir wirklich wichtig, das hier zu betonen. Daher ist es meines Erachtens wirklich ein guter Vorstoß, in diesem Bereich mehr Digitalisierung einzusetzen, auch im Dienst der Bürger und Bürgerinnen. – Herzlichen Dank. (Beifall bei der SPÖ.)
15.05
Präsident Dr. Walter Rosenkranz: Als Nächster zu Wort gemeldet: Herr Abgeordneter Dengler. Eingemeldete Redezeit: 5 Minuten.
RN/84
15.05
Abgeordneter Veit Valentin Dengler (OK): Herr Präsident! Herr Staatssekretär! Liebe Kolleginnen und liebe Zuschauer! Ja, wir reden heute zur Automatisierung in der Verwaltung. Ich glaube, worüber wir alle hier uns einig sein können, ist, dass der Staat schlanker werden muss, dass wir die Verwaltung automatisieren, effizienter machen müssen, wo es geht.
Zu Kollegen Tschank: Wenn Sie sagen, menschliche Handlung durch Maschinen ersetzen, stimmt das. Das ist so ziemlich die Geschichte des menschlichen Fortschritts der letzten 10 000 Jahre. Deswegen haben wir das Rad, den Aquädukt und die Dampfmaschine, den Kran und so weiter erfunden. Also das ist, glaube ich, kein Argument, warum man gegen dieses Gesetz sein kann.
Es gibt noch ein anderes Argument, das meines Erachtens in den Erläuterungen und in den Unterlagen aus dem Ausschuss gar nicht so vorgekommen ist: Wir steuern nämlich auf eine Welt zu, in der es sehr, sehr leicht wird, Behörden zu spammen. Das heißt, es wird nicht lange dauern, bis Bürgerinitiativen und andere entdecken, dass die Verwaltung sehr schnell an ihre Leistungsgrenzen kommt, wenn sie Tausende von Eingaben ganz schnell verfassen können und einreichen können. Das ist auch etwas, was wir bei dieser Diskussion berücksichtigen müssen.
Es gibt in dieser Vorlage gute und wichtige Ansätze: Das No-Stop-Verfahren als Prinzip, auch dieses Ex tunc beim Einspruch – also dass es sozusagen beim Einspruch dann schon gar nicht existiert hat –, das ist alles vernünftig. Man kann auch, weil die gedruckten Zahlscheine wegfallen, bis zu 100 000 Euro im Jahr sparen. Das ist auch gut. Das würde fast 2,5 Stunden der jährlichen Parteienfinanzierung finanzieren.
Es gibt aber eine schwierige Abwägung – und zwar ist es vollkommen klar, dass der Gesetzgeber nicht bis ins Detail Technologien regulieren kann. Man kann also nicht sagen: Diese Technologie geht oder die geht nicht, weil dafür die Entwicklung zu schnell ist, aber es gibt auch einen handwerklichen Anspruch ans Gesetz. Es muss präzise genug sein, damit man Sicherheitsgefährdungen oder unpassende Anwendungen zwingend ausschließen kann. Dabei versagt dieser Entwurf.
Es gibt diesen Gummiparagrafen, § 18a Abs. 2, der beschränkt die Automatisierung lediglich durch den völlig dehnbaren Begriff der Eignung. Jetzt kann sich halt die Baubehörde in Traiskirchen überlegen: wann ist es geeignet und wann ist es nicht geeignet?, und entscheiden. Es gibt also keine harte rechtliche Schranke für diese zum Teil sensiblen Materien. Da müssen wir uns auch nur kurz überlegen: Wenn jede Gemeinde, also jede oberste Behörde zum Beispiel selbst entscheiden kann, dann kann man etwa aus Kostengründen eine billige KI nehmen, eine chinesische oder vielleicht in Zukunft eine russische KI (Zwischenruf des Abg. Schnabel [ÖVP]), um die für die Ausstellung dieser Bescheide zu nutzen. Das Gesetz verhindert das nicht – und da muss man sich ja einmal vorstellen, was das für Hosting oder für Cybersicherheit heißt, wenn jeder sein eigenes Instrument aussuchen darf. (Zwischenruf des Abg. Schnabel [ÖVP].)
Dann gibt es natürlich das Gegenargument: Moskau interessiert es nicht, wer in Österreich ein Strafmandat ausstellt. Das ist schon richtig, da haben Sie recht. Genau das ist aber das Problem, weil das Gesetz den Einsatz eben nicht glasklar auf diese harmlosen, klar automatisierbaren Anwendungen einschränkt, sondern dieser Gummiparagraf mit der Eignung da steht. (Abg. Schnabel [ÖVP]: ... NEOS ...!)
Deswegen gäbe es eigentlich einen konstruktiven Lösungsvorschlag. (Abg. Hafenecker [FPÖ]: Es gibt auch ...!) Dieses Dilemma könnte man lösen, man muss nämlich differenzieren zwischen Automatisierung – das kann man auch Machine-Learning nennen, Machine-Learning ist im Wesentlichen Analysieren und Kategorisieren, das ist dann eine Reihe von Wenn-Dann-Anwendungen – und dem, was wir jetzt künstliche Intelligenz nennen. Das ist generative künstliche Intelligenz. Das heißt, die fangen dann an, Sachen zu schreiben – und dann gibt es tatsächlich die Gefahr der Halluzinationen und so weiter.
Ich glaube, gegen eine Automatisierung, gegen Machine-Learning kann man nichts einwenden. Das wäre gut – gerade für diese Anwendungsfälle, an die Sie offenbar gedacht haben –, aber für eine echte Anwendung von generativer künstlicher Intelligenz ist es wahrscheinlich nicht gut. Wenn wir dieses Gesetz auf diese klassische, regelbasierte Automatisierung beschränken würden, könnten Sie 90 Prozent plus diese Effekte, die Sie erzielen wollen, erreichen, sich die Kostenvorteile sichern, aber eben die Gefahren ausschließen, die jetzt dabei sind.
Ich glaube, die Regulierung von echten KI-Systemen, also generativer KI, in der Hoheitsverwaltung liegt in der Verantwortung des Parlaments. Damit müssen wir uns noch einmal intensiv beschäftigen und Regeln verabschieden, vielleicht auch so etwas wie Zertifizierungen für die öffentliche Hand allgemein. Dazu brauchen wir Leitplanken, und dafür müssen wir uns etwas Zeit nehmen.
So leid es mir tut – solange diese Trennung nicht existiert und wir der Verwaltung jetzt mit diesem Gummiparagrafen praktisch eine Art Blankoscheck ausstellen sollen, ist mir das Risiko für den Rechtsstaat und auch für die Daten der Bürger zu hoch. Deswegen werde ich heute gegen diesen Entwurf stimmen, und ich fände es ehrlich gesagt gut, wenn das mehrere hier in diesem Haus täten. Es gibt keinen Grund, dass man das hier übers Knie bricht. Wir könnten uns etwas mehr Zeit nehmen, und dann könnte man aus dieser Vorlage, glaube ich, eine gute, Vorlage machen, die man gemeinsam verabschieden kann. – Danke. (Beifall bei Abgeordneten der Grünen.)
15.10
Präsident Dr. Walter Rosenkranz: Zu einer tatsächlichen Berichtigung hat sich Herr Abgeordneter Zorba zu Wort gemeldet. – Sie kennen die einschlägigen Bestimmungen. Bitte, Herr Abgeordneter.
RN/85
15.10
Abgeordneter Süleyman Zorba (Grüne): Danke, Herr Präsident. – Abgeordnete Duzdar hat erklärt, es gehe bei diesem Gesetz nicht um Interessenabwägung oder Ermessensspielräume. – Diese Behauptung ist unrichtig.
Ich berichtige tatsächlich, ich zitiere aus den Erläuterungen zum Gesetz: „Gewisse behördliche Entscheidungsspielräume (Ermessen oder Beurteilungsspielräume auf Grund von unbestimmten Gesetzesbegriffen) stehen der vollständig automatisierten Erledigung jedoch nicht von vornherein entgegen.“ – Danke schön. (Beifall bei den Grünen.)
15.11
Präsident Dr. Walter Rosenkranz: Nächste Rednerin: Frau Abgeordnete Holzegger. Eingemeldete Redezeit: 3 Minuten. – Bitte, Frau Abgeordnete.
RN/86
15.11
Abgeordnete Ines Holzegger (NEOS): Vielen Dank, Herr Präsident! Herr Staatssekretär! Werte Kolleginnen und Kollegen! Liebe Zuseherinnen und Zuseher! Die Politik hinkt ja oft dem technologischen Fortschritt hinterher. Immer wieder stoßen wir an die Grenzen von jahrzehntelang aufgebauter Bürokratie, aber heute schlagen wir einen neuen Weg ein. Wir wollen die Chancen von Digitalisierung auch in der Verwaltung nutzen – für eine Verwaltung, die schneller, einfacher und moderner arbeitet.
Gerade im Verfahrensrecht gibt es da großes Potenzial. Die Novelle schafft durch Chatbot-Anträge, No-Stop-Verfahren und auch vollautomatisierte Erledigungen die Grundlage dafür, aber auch bei Zahlungsanweisungen wie bei Anonym- und Organstrafverfahren schaffen wir mit dieser AVG-Novelle Vereinfachungen.
Gleichzeitig gilt aber auch, dass eine moderne Verwaltung auch angepasste Sicherheitsmechanismen braucht, gerade wenn die Entscheidungen automatisiert getroffen werden. Dazu gehört – wir haben es auch schon gehört – ein zweiwöchiges Einspruchsrecht, das ich auch ganz ohne Begründung ausüben kann. Ein Mensch schaut sich das danach an, führt das Verfahren und erstellt den Bescheid. Auch die Behörde kann schon rechtskräftige Bescheide innerhalb von zwei Monaten wieder aufheben und ändern lassen, aber unter der Berücksichtigung der erworbenen Rechte – das ist auch ganz wichtig.
Anders als im Ausschuss behauptet wurde, ist dieser Mechanismus, dass der Staat das wieder aufheben kann, aber nicht ein Misstrauen der Technik gegenüber, wodurch man davon ausgeht, dass Fehler passieren, sondern es ist so, dass eine verantwortungsvolle Gesetzgebung natürlich mitdenken muss. (Abg. Zorba [Grüne]: Das steht so in den Erläuterungen!) Einfach gesagt: Wir haben in den Autos auch Airbags – nicht weil wir davon ausgehen, dass alle Autos einen Unfall bauen werden, sondern weil wir vorsorgen. Genauso ist es auch bei der Digitalisierung: Wir sorgen dafür, dass Fehler erkannt und korrigiert werden können.
Mit dieser Novelle machen wir wichtige Meter in der Digitalisierung der Verwaltung, damit sie schneller, effizienter und moderner wird, und das ist gut so. (Beifall bei den NEOS und bei Abgeordneten der ÖVP.)
15.14
Präsident Dr. Walter Rosenkranz: Als Nächste zu Wort gemeldet ist Frau Abgeordnete Grünberg. Eingemeldete Redezeit: 3 Minuten. Das geht sich genau bis zum Aufruf des Dringlichen Antrages aus.
RN/87
15.14
Abgeordnete Kira Grünberg (ÖVP): Sehr geehrter Herr Präsident! Geschätzter Herr Staatssekretär! Liebe Kolleginnen und Kollegen! Liebe Zuseherinnen und Zuseher! Barrierefrei – da denken jetzt viele an Aufzüge, an Rampen, an breitere Türen, und das ist auch richtig so, denn Aufzüge und Rampen entscheiden darüber, ob Menschen mit Behinderung selbstständig zum Arzt, zum Amt oder zur Arbeit gehen können.
Barrierefreiheit bedeutet mehr Selbstständigkeit, aber es gibt auch Barrieren, die man auf den ersten Blick nicht erkennt: Das Formular ist in Amtsdeutsch, das man nicht versteht, den Behördenweg kann man nicht alleine erledigen, weil man auf Assistenz angewiesen ist, die Frage traut man sich aus Angst, etwas falsch zu machen, nicht zu stellen.
Für viele Menschen sind genau das große Hürden, und diese können wir mithilfe der Digitalisierung abbauen. Richtig gemacht bedeutet Digitalisierung nicht nur mehr Komfort, sie bedeutet ebenso mehr Selbstständigkeit.
Ich möchte zwei Punkte aus der Gesetzesnovelle hervorheben. Das wären erstens die Chatbots. Stellen wir uns eine Mutter vor, die abends um 10 Uhr, wenn die Kinder schlafen, endlich Zeit hat, sich um einen Antrag zu kümmern, oder einen älteren Herrn, dem Formulare Angst machen, oder jemanden, dem das Schreiben schwerfällt, weil Deutsch nicht seine Muttersprache ist. Ein Chatbot kann sie Schritt für Schritt begleiten, rund um die Uhr, geduldig, in Einfacher Sprache und künftig auch in gesprochenen Worten. Man muss nicht mehr wissen, wie das Formular genau heißt, sondern nur, worum es geht und wobei man Hilfe braucht.
Für diese Angebote gilt natürlich das Web-Zugänglichkeits-Gesetz, sie müssen also digital barrierefrei sein, denn Digitalisierung darf keine neuen Barrieren schaffen, sie muss bestehende abbauen.
Der zweite Punkt ist das sogenannte No-Stop-Verfahren. Bisher gilt, wer eine Leistung bekommen will, muss diese beantragen, und dafür muss man erst einmal wissen, dass es sie gibt und dass sie einem zusteht. Wer das nicht weiß, geht leer aus. Beim No-Stop-Verfahren drehen wir genau das um. Hat die Behörde alle nötigen Daten ohnehin schon, dann kommt die Leistung von selbst. Bei der Familienbeihilfe und der Arbeitnehmerveranlagung ist das bereits heute der Fall – ohne Antrag, ohne Formular, ohne Amtswege. Das bedeutet weniger Wege, weniger Bürokratie und mehr Zeit für jene, die persönliche Beratung brauchen.
Sehr geehrte Damen und Herren, eine moderne Verwaltung ist nicht die mit der meisten Technik, es ist die, die niemanden zurücklässt – einfach erreichbar, verständlich und barrierefrei. (Beifall bei der ÖVP sowie bei Abgeordneten von SPÖ und NEOS.)
15.17
Präsident Dr. Walter Rosenkranz: Ich unterbreche nunmehr die Verhandlungen über den Tagesordnungspunkt 5 zur geschäftsordnungsmäßigen Behandlung des Dringlichen Antrages, dessen Aufruf um 15.18 Uhr, also in wenigen Sekunden, erfolgt.