Bericht

des Ausschusses für Menschenrechte

über den Antrag 1116/A(E) der Abgeordneten Dr. Ewa Ernst-Dziedzic, Dr. Gudrun Kugler, Kolleginnen und Kollegen betreffend Verbot von autonomen Waffensystemen ohne menschliche Kontrolle ("Killer-Robotern")

Die Abgeordneten Dr. Ewa Ernst-Dziedzic, Dr. Gudrun Kugler, Kolleginnen und Kollegen haben den gegenständlichen Entschließungsantrag am 20. November 2020 im Nationalrat eingebracht und wie folgt begründet:

„In den letzten Jahren kam es zu enormen technologischen Fortschritten im Bereich der Robotik und der künstlichen Intelligenz. So zeichnet sich auch im militärischen Bereich ein deutlicher Trend zu immer mehr Autonomie in militärischen Systemen ab. Bislang unterlag es menschlicher Kontrolle, welche Ziele während eines militärischen Angriffs ausgewählt wurden und wann ein Waffeneinsatz freigegeben wurde. Beim Einsatz von autonomen Kampfrobotern und -Drohnen werden diese Entscheidungen über Leben und Tod eines Menschen auf Algorithmen delegiert.

Die zunehmende Automatisierung in Waffensystemen, der Verlust der menschlichen Kontrolle durch den Einsatz und die Verbreitung von Waffensystemen mit autonomen Funktionen werden von vielen Expert*innen als äußerst gefährliche Entwicklungen wahrgenommen. Das Internationale Komitee vom Roten Kreuz (IKRK), Human Rights Watch, die 2012 gegründete internationale Kampagne gegen Killer-Roboter (Campaign to Stop Killer Robots), unzählige Entwickler*innen und Forscher*innen im Bereich von künstlicher Intelligenz warnen eindringlich vor der Automatisierung und Autonomisierung von Waffensystemen durch Künstliche Intelligenz und den damit einhergehenden menschlichen Kontrollverlust.[1][2]

Aus ethischer, rechtlicher und friedenspolitischer Sicht besonders bedenklich ist die Gefahr eines internationalen Wettrüstens sowie einer leichteren Eskalation von Konflikten durch eine beschleunigte Kriegsführung. Der Verlust der menschlichen Kontrolle könnte zu einem wesentlichen Herabsetzen der Hemmschwelle für bewaffnete Konflikte sowie zu massiven Menschenrechtsverletzungen und Verstößen gegen das humanitäre Völkerrecht führen.

Die ausreichende menschliche Kontrolle („meaningful human control“) und damit auch Verantwortung ist im Bereich der Menschenrechte und im humanitären Völkerrecht zentral. So obliegt es Menschen die Verhältnismäßigkeit eines tödlichen Angriffes einzuschätzen, eine Abwägung, die nicht von einem Roboter getroffen werden kann. Auch ob das Gegenüber kampfunfähige Soldat*innen oder (unbewaffnete) Zivilist*innen sind, Umstände, die einen Angriff verbieten würden, kann von den besten Algorithmen nicht erkannt werden. Autonome Waffensysteme ohne menschliche Kontrolle könnten durch algorithmische Voreingenommenheit (der sog. „algorithmic bias“) zu nicht rechtfertigbaren Diskriminierungen führen. Erschwerend tritt unter anderem noch hinzu, dass sich durch den Einsatz autonomer Waffensysteme ohne menschliche Kontrolle, die rechtliche und politische Verantwortung und Zurechenbarkeit, auf der unser Rechtssystem beruht, nicht mehr gesichert wäre.

Auch unter den Regierungen werden die kritischen Stimmen immer lauter. Ein kürzlich veröffentlichter Bericht von Human Rights Watch führt rund 100 Staaten an, deren Vertreter*innen sich in den vergangenen Jahren zu Killer-Robotern geäußert haben. In etwa 30 Länder haben sich deutlich für ein klares Verbot von Waffen ohne menschliche Kontrolle und Steuerung ausgesprochen - darunter Österreich, Brasilien und Chile, die sich besonders für einen Verbotsvertrag eingesetzt haben.

Österreich hat bereits wiederholt im Rahmen der Vereinten Nationen seine ethischen und rechtlichen Bedenken hinsichtlich autonomer Waffensysteme ohne menschliche Kontrolle und ihrer destabilisierenden Implikationen geäußert. Unter anderem hat sich Österreich im April 2018 für ein Verbot dieser Waffen ausgesprochen, und an allen im Rahmen der Konvention für bestimmte konventionelle Waffen (CCW) abgehaltenen Treffen zum Thema Killer-Roboter aktiv teilgenommen. Während des CCW Treffens im August 2018 brachte Österreich gemeinsam mit Brasilien und Chile den Vorschlag ein, Verhandlungen für ein völkerrechtlich verbindliches Instrument zur Beibehaltung menschlicher Kontrolle bei allen wesentlichen Funktionen von Waffensystem zu starten. Während der Generalversammlung im September 2019, sprach sich Bundesminister Schallenberg explizit für ein Verbot von automatischen Waffensystemen aus, und betonte, man könne Maschinen nicht über Leben und Tod entscheiden lassen. Zudem kündigte er eine internationale Konferenz zum Thema Killer-Roboter 2021 in Wien an.

Auch im aktuellen Regierungsprogramm bekennt sich die österreichische Bundesregierung zu einer aktiven und engagierten Menschenrechts- und Friedenspolitik. Als ein zentrales Anliegen wird der Einsatz für Initiativen genannt, um wirksam Problemen zu entgegnen, die durch Künstliche Intelligenz für die Menschenrechte, die Rechtsstaatlichkeit und die Demokratie entstehen.“

 

Der Ausschuss für Menschenrechte hat den gegenständlichen Entschließungsantrag in seiner Sitzung am 26. November 2020 in Verhandlung genommen. An der Debatte beteiligten sich außer der Berichterstatterin Abgeordneten Dr. Ewa Ernst-Dziedzic die Abgeordneten Hans Stefan Hintner, Robert Laimer und Mag. Dr. Martin Graf sowie der Ausschussobmann Abgeordneter Dr. Nikolaus Scherak, MA.

 

Bei der Abstimmung wurde der gegenständliche Entschließungsantrag der Abgeordneten Dr. Ewa Ernst-Dziedzic, Dr. Gudrun Kugler, Kolleginnen und Kollegen einstimmig beschlossen.

 

Als Ergebnis seiner Beratungen stellt der Ausschuss für Menschenrechte somit den Antrag, der Nationalrat wolle die angeschlossene Entschließung annehmen.

Wien, 2020 11 26

                         Dr. Ewa Ernst-Dziedzic                                               Dr. Nikolaus Scherak, MA

                                  Berichterstatterin                                                                          Obmann