Stellungnahme zu Gesetzesinitiativen und sonstigen Gegenständen
Stellungnahme betreffend die Regierungsvorlage (539 d.B.): Bundesgesetz, mit dem das Allgemeine Verwaltungsverfahrensgesetz 1991 und das Verwaltungsstrafgesetz 1991 geändert werden
Bei den Stellungnahmen handelt es sich nicht um die Meinung der Parlamentsdirektion, sondern um jene der einbringenden Person bzw. Institution. Mehr Informationen finden Sie in den Nutzungsbedingungen.
Inhalt
Stellungnahme zur Regierungsvorlage 539 d.B. (XXVIII. GP), Änderung des Allgemeinen Verwaltungsverfahrensgesetzes 1991 und des Verwaltungsstrafgesetzes 1991
Ich beschäftige mich seit Jahren beruflich mit dem Einsatz von Künstlicher Intelligenz in Unternehmen, bin zertifizierter KI-Beauftragter nach ISO/IEC 42001 und EU AI Act Practitioner. Ich gebe diese Stellungnahme als Privatperson ab.
Grundsätzlich begrüße ich die Novelle. Die No-Stop-Verfahren, der QR-Code bei Anonym- und Organstrafverfügungen und die Unterstützung durch Chatbots beim Einbringen von Anträgen sind sinnvolle Schritte. Auch vollautomatisierte Bescheide in klar geregelten Massenverfahren halte ich für richtig. Meine Kritik betrifft ausschließlich die Ausgestaltung von § 18a AVG. Da der Nationalrat die Vorlage bereits beschlossen hat, richten sich meine Vorschläge auch an die obersten Behörden, die per Verordnung über den Einsatz entscheiden, sowie an eine künftige Novellierung.
1. Fehlende Unterscheidung zwischen regelbasierten Systemen und KI
§ 18a AVG gilt nach den Erläuterungen und der Kommunikation des Bundeskanzleramts für alle technischen Systeme, ausdrücklich auch für KI-Anwendungen. Zwischen einem deterministischen, regelbasierten System und einem probabilistischen KI-System, insbesondere generativer KI, besteht aber ein grundlegender Unterschied. Ein regelbasiertes System liefert bei gleicher Eingabe immer dasselbe Ergebnis, Fehler sind in der Regel auffindbar und für alle Fälle korrigierbar. Generative KI-Systeme können plausibel klingende, aber falsche Inhalte erzeugen, und eine von ihnen formulierte Begründung bildet nicht zwingend den tatsächlichen Entscheidungsweg ab. Das ist mit der Begründungspflicht des AVG schwer vereinbar.
Vorschlag: Die vollständig automatisierte Erledigung ohne menschliche Freigabe sollte auf deterministische, regelbasierte Systeme beschränkt werden. Für KI-Systeme im Sinne von Art. 3 Nr. 1 der KI-Verordnung (EU) 2024/1689 sollte eine menschliche Prüfung und Freigabe vor Erlassung des Bescheids verpflichtend sein.
2. Ermessen und Beurteilungsspielräume
Nach den Erläuterungen stehen Beurteilungsspielräume einer vollständig automatisierten Erledigung nicht von vornherein entgegen. Die Entscheidung darüber bleibt damit der Behörde überlassen, die automatisieren möchte. Deutschland hat in § 35a des Verwaltungsverfahrensgesetzes eine klare Grenze gezogen: Ein vollständig automatisierter Verwaltungsakt ist nur zulässig, wenn weder ein Ermessen noch ein Beurteilungsspielraum besteht. Abwägung im Einzelfall ist der Kern menschlicher Verantwortung in der Verwaltung.
Vorschlag: Eine vollständig automatisierte Erledigung sollte ausgeschlossen sein, wenn der Behörde Ermessen oder ein Beurteilungsspielraum zukommt. Bis zu einer gesetzlichen Klarstellung ersuche ich die Verordnungsgeber, solche Verfahren nicht für die Vollautomatisierung freizugeben.
3. Menschliche Kontrolle nur auf Verlangen
Die Vorstellung ist ein niederschwelliger Rechtsbehelf, das anerkenne ich ausdrücklich. Sie bedeutet aber, dass ein Mensch nur dann prüft, wenn die betroffene Person den Fehler selbst erkennt, die Frist kennt und aktiv wird. Menschen, die ein Amtsschreiben nicht im Detail verstehen, die Post verspätet öffnen oder einer Behörde grundsätzlich vertrauen, bleiben ohne menschliche Prüfung. Das trifft Ältere, Menschen mit geringeren Deutschkenntnissen und sozial Schwächere überproportional. Auffällig ist auch die Asymmetrie: Die Behörde kann automatisiert erlassene Bescheide innerhalb von zwei Monaten aufheben oder abändern, Betroffene haben für die Vorstellung zwei Wochen.
Vorschläge:
a) Verlängerung der Vorstellungsfrist, zumindest auf die Dauer der behördlichen Korrekturmöglichkeit.
b) Ein gut sichtbarer, in einfacher Sprache formulierter Hinweis auf dem Bescheid, dass es sich um eine vollautomatische Entscheidung handelt und wie die Vorstellung ohne Begründung erhoben werden kann.
c) Eine verpflichtende laufende Stichprobenkontrolle durch Bedienstete, deren Ergebnisse, insbesondere Fehlerquoten, veröffentlicht werden.
4. Transparenz der Verordnungen
Welche Verfahren vollautomatisiert werden, legen die obersten Behörden per Verordnung fest. Damit fällt die wesentliche Entscheidung außerhalb des Parlaments.
Vorschlag: Ein öffentliches Register aller Verfahren mit vollständig automatisierter Erledigung, das zumindest folgende Angaben enthält: Rechtsgrundlage, Art des Systems (regelbasiert oder KI), zuständige Organisationseinheit, Ergebnisse der dokumentierten Testphase und laufende Fehlerquoten. Zusätzlich ein jährlicher Bericht an den Nationalrat über Einsatz, Vorstellungsquoten und festgestellte Fehler.
5. Zurechenbarkeit und Verantwortung
Auf vollautomatisch erlassenen Bescheiden scheint keine genehmigende Person mehr auf. Die Amtshaftung knüpft an das Verhalten von Organen an. Bei Entscheidungen ohne menschliches Zutun ist aus meiner Sicht nicht eindeutig geregelt, wessen Verhalten einem fehlerhaften Bescheid zuzurechnen ist: jenem der Stelle, die die Verordnung erlassen hat, jener, die das System abgenommen hat, oder jener, die es betreibt.
Vorschlag: Eine gesetzliche Klarstellung der Zurechnung sowie die verpflichtende Angabe einer verantwortlichen Organisationseinheit mit Kontaktmöglichkeit auf jedem vollautomatisch erlassenen Bescheid.
6. Abstimmung mit der KI-Verordnung (EU) 2024/1689
KI-Systeme, mit denen Behörden über den Anspruch auf wesentliche öffentliche Unterstützungsleistungen entscheiden, sind nach Anhang III Nr. 5 der KI-Verordnung Hochrisiko-Systeme. Die entsprechenden Pflichten, darunter wirksame menschliche Aufsicht nach Art. 14 und die Grundrechte-Folgenabschätzung für öffentliche Stellen nach Art. 27, gelten nach der Verschiebung durch die Verordnung (EU) 2026/1744 ab 2. Dezember 2027. Die Transparenzpflicht nach Art. 50 für Systeme, die mit Menschen interagieren, gilt bereits seit 2. August 2026 und betrifft die geplanten Chatbots unmittelbar.
Vorschlag: Die Verordnungsgeber sollten schon jetzt die Anforderungen für Hochrisiko-Systeme anwenden, wenn ein KI-System in einem Bereich nach Anhang III eingesetzt werden soll. Sonst entstehen Systeme, die in gut einem Jahr nachgerüstet werden müssen. Behörden-Chatbots sollten eine klar erkennbare KI-Kennzeichnung tragen.
Automatisierung kann Verwaltung schneller und bürgernäher machen. Das Vertrauen in automatisierte Bescheide hängt aber davon ab, dass die menschliche Verantwortung dort bleibt, wo abgewogen wird, und dass Bürgerinnen und Bürger nicht selbst zur Qualitätskontrolle werden müssen. Ich ersuche daher, die genannten Punkte bei der Umsetzung und einer künftigen Novellierung zu berücksichtigen.
Alex Januschewsky, Salzburg
https://digitalhandwerk.rocks