1102/J XXVI. GP

Eingelangt am 22.06.2018
Dieser Text ist elektronisch textinterpretiert. Abweichungen vom Original sind möglich.

Anfrage

der Abgeordneten Stephanie Cox, Kolleginnen und Kollegen
an den Bundesminister für Bildung, Wissenschaft und Forschung betreffend „AI Strategie und neue Datenpolitik für Österreich“

BEGRÜNDUNG

Wieso wir über „Artificial Intelligence“ nachdenken müssen

Zu Beginn der Menschheitsgeschichte konnten Erfahrungen und Ideen kaum mit anderen geteilt werden. Das änderte sich mit der Erfindung von Sprache, die es endlich möglich gemacht hat, Wissen von Generation zu Generation weiterzugeben. Die Erfindung von Papier erlaubte es, Wissen zu formalisieren und aufzubewahren und die Druckerpresse demokratisierte den Zugang zu Informationen. Schließlich ebnete das Internet den Weg für eine global vernetzte Welt, in der "Netzwerkeffekte" das exponentielle Wachstum des kollektiven Wissens der Menschheit vorantreiben.

Wenn man also darüber nachdenkt, wie die Zukunft aussehen könnte, wird man nicht umhin kommen sich zu fragen, ob wir die Geschwindigkeit, mit der wir kollektiv neues Wissen generieren, aufrechterhalten können. Zwei aktuelle Trends versprechen eine Antwort auf diese Frage: die immer breitenwirksamere Anwendung und kontinuierliche Verbesserung von AI (genauer: „Machine Learning“, „ML“) und die Digitalisierung unserer Gesellschaft.

Der aktuelle „Hype“ um AI lässt sich wohl am besten verstehen, wenn man in dieser Technologie einen Weg sieht, um den stetig ansteigenden Berg verfügbarer Daten bzw. Informationen zu nützen, um leichter und schneller neues Wissen zu generieren. Dies gilt umso mehr vor dem Hintergrund der fortschreitenden Digitalisierung unserer Gesellschaft, dank der Zunahme von Sensoren (z.B. Kameras) in allen möglichen Geräten („smart devices“) und deren Vernetzung („Internet of Things“, „loT“). Auch das Speichern von Daten wird immer billiger, weshalb es weiterhin zu einem starken Anstieg von Daten und damit zur weitgehenden Digitalisierung unserer Gesellschaft kommen wird. Schlussendlich führen die Fortschritte im Bereich AI/ML (u.a. „Computer Vision“) zum ersten Mal in der Geschichte dazu, dass es keine Menschen mehr braucht, um die physische Welt in ein digitales Format zu übersetzen, mit dem Maschinen etwas anfangen können.

„Artificial Intelligence“ im Regierungsprogramm

Im Regierungsprogramm wird an vielen Stellen auf „künstliche Intelligenz“ verwiesen. So liest man etwa auf S. 58: „Österreich fit für die Herausforderungen der Digitalisierung machen. Ohne Zweifel spielt die Digitalisierung als transformierende Kraft eine Schlüsselrolle für den Innovationsstandort der Zukunft. Neue digitale Technologien wie künstliche Intelligenz, Robotik [...] werden noch nicht vorhersehbare Auswirkungen auf unsere Gesellschaft haben.“

 

Auf S. 81 nimmt sich die Regierung die „Schaffung umfassender Rechtssicherheit für die Chancen der Digitalisierung und den Einsatz neuer Systeme“ vor. Außerdem soll „dieser Rechtsrahmen innovative, neue Geschäftsmodelle und Technologien im Sinne der gesellschaftlichen Entwicklung ermöglichen und gleichzeitig die Datenautonomie/-hoheit des Bürgers und Konsumenten sicherstellen (z.B. [...], künstliche Intelligenz [...] etc.).“ Darüber hinaus soll es zur „Definition von Pilotprojekten in Zusammenarbeit mit der Wirtschaft, um die Umsetzung der digitalen Transformation in der öffentlichen Verwaltung zu fördern ([...] künstliche Intelligenz etc.)“, kommen.

Auf S. 83 werden im Zusammenhang mit Al-Start Ups regulatorische „Sandboxes“ angesprochen und auf S. 116 findet sich der Plan für einen „verstärkten Einsatz von künstlicher Intelligenz (Content Analytic), um die Verwaltung und Wissenschaft sowie die Versicherten noch besser zu unterstützen. “

Österreichische Strategie für AI?

Wir leben in einer Welt, in der eine kleine Zahl von Unternehmen über den Großteil aller Daten verfügt, die wiederum die Grundlage für ML sind. Darüber hinaus sitzen diese Unternehmen fast ausschließlich außerhalb Europas, vor allem in den USA und in China.

Eine pauschale Erklärung, mehr Geld in AI zu investieren, wie jene, die im April 2018 von einem Großteil der EU-Mitgliedsstaaten unterschrieben wurde, wird vermutlich nicht ausreichen, um langfristig und nachhaltig Wertschöpfung in Österreich und Europa zu sichern oder zum „Innovation-Leader“ aufzusteigen. China und Frankreich haben eine klare Al-Strategie. Die Vereinigten Arabischen Emirate haben einen Minister für AI. Amerika hat die „big four“, zahlreiche Eliteuniversitäten, Unmengen an privaten Investorengeldern und Kanada hat mit Toronto, Montreal and Edmonton ein paar der besten Ausbildungsstätten für Al-Forscher_Innen weltweit.

Die Regierung hat höchstwahrscheinlich damit Recht, dass „neue digitale Technologien wie künstliche Intelligenz, Robotik [...] noch nicht vorhersehbare Auswirkungen auf unsere Gesellschaft haben“ werden. Die Frage ist: Was tun wir, um uns auf diese Veränderungen vorzubereiten und wie können wir sicherstellen, dass möglichst alle von diesen Veränderungen profitieren?

Die unterfertigenden Abgeordneten stellen daher folgende

Anfrage

1.    Hat die Regierung bzw. Ihr Ministerium eine umfassende Al-Strategie für Österreich in Ihrem Zuständigkeitsbereich, insb. für Forschung und Bildung?

a.    Falls ja, wie sieht diese Strategie aus und wie will die Regierung bzw. Ihr Ministerium sicherstellen, dass die Gesellschaft insgesamt von AI profitiert? (Bitte um möglichst konkrete, ausführliche und abschließende Darstellung der Strategie, inkl. Maßnahmen, Milestones.)

b.    Falls nein, ist die Erarbeitung einer solchen Strategie geplant bzw. bis wann soll eine solche Strategie erarbeitet, veröffentlicht und implementiert werden?

i. Falls die Erarbeitung, Veröffentlichung und Implementierung einer solchen Strategie nicht geplant ist, wieso nicht?

c.     Frankreich will bis 2022 rund 1,5 Milliarden EUR in AI investieren. Wieviel Geld soll in den kommenden Jahren in Forschung im Bereich künstliche Intelligenz investiert werden?

i.     Sind diese Ausgaben bereits budgetiert?

ii.    Falls ja, wo?

iii.   Falls nein, wieso nicht?

2.    Will die Regierung bzw. Ihr Ministerium sicherstellen, dass auch in Österreich Spitzenforschung im Al-Bereich stattfindet?

a.    Falls ja, mit welchen konkreten Maßnahmen, in welchen Forschungsbereichen und bis wann sollen diese Maßnahmen umgesetzt werden? (Bitte um abschließende Aufzählung aller Maßnahmen.)

b.    Falls nein, wieso nicht?

3.    Hat die Regierung bzw. Ihr Ministerium bereits konkrete Al-Pilotprojekte - in Ihrem Zuständigkeitsbereich - definiert?

c.     Falls ja, welche? (Bitte um abschließende Aufzählung.)

d.    Falls nein, bis wann sollen die ersten Pilotprojekte definiert und veröffentlicht werden?

4.    Plant die Regierung bzw. Ihr Ministerium bisher nicht öffentlich zugängliche Daten - in Ihrem Zuständigkeitsbereich - zur freien Verwendung durch Dritte (insb. BürgerInnen und Unternehmen) zu veröffentlichen (iSv. „Open Data“) und allgemein „Open Data“-Projekte zu fördern? (Dies könnte z.B. im Rahmen der Einführung des strukturierten Datenmanagements des Bundes passieren, da hier ohnehin Datenbanken - etwa mit Schnittstellen - „geöffnet“ werden müssen.)

a.    Falls ja, welche Daten aus welchen Datenbanken sollen veröffentlicht werden und bis wann? Welche Daten und Datenbanken sollen ungeöffnet bleiben und wieso? (Bitte um abschließende, getrennte Aufzählung bzw. Beschreibung aller Daten und Datenbanken, die a) geöffnet werden und b) ungeöffnet bleiben.)

b.    Falls ja, welche „Open Data“-Projekte bzw. Projekte in welchen Bereichen - innerhalb Ihres Zuständigkeitsbereichs - sollen gefördert werden und in welcher Form und Höhe (in EUR)?

5.    Sollen künftig alle „offenen Daten“ - in Ihrem Zuständigkeitsbereich - in einem maschinenlesbaren Format veröffentlicht werden?

a.    Falls ja, wie und bis wann will man diese Art der Veröffentlichung sicherstellen (z.B. per Gesetz)?

b.    Falls nein, welche Daten sollen zwar veröffentlicht werden, nicht jedoch in maschinenlesbarem Format, und wieso nicht? (Bitte um abschließende Auflistung der Daten sowie entsprechenden Datenbanken.)

6.    Unter welcher/n Lizenz(en) sollen „offene Daten“ (iSv. „Open Data“) - in Ihrem Zuständigkeitsbereich - veröffentlicht und nutzbar gemacht werden und wieso wird/werden die entsprechende(n) Lizenz(en) gewählt?

a. Falls es keine einheitliche Lizenz geben soll, wieso nicht und bei welchen Daten soll differenziert werden?

7.    Welche konkreten Maßnahmen will man - in Ihrem Zuständigkeitsbereich - setzen, um a) den öffentlichen Bereich, b) die Privatwirtschaft, c) den Non­Profit Sektor, d) die Gesellschaft allgemein zu befähigen, „offene Daten“ zu nützen (insb. Schaffen von Bewusstsein, Bildung, Definition von APIs u.a.)? (Bitte um getrennte Beantwortung der Punkte a) bis d) und jeweils abschließende Aufzählung aller Maßnahmen.)

8.    Gibt es eine klare Strategie, wie Daten, die von Ihrem Ministerium bzw. staatlichen Einrichtungen - in Ihrem Zuständigkeitsbereich - produziert oder eingeholt werden, besser nutzbar gemacht werden könnten, insb. für politische Entscheidungsprozesse (z.B. im Hinblick auf Datenqualität, Zusammenhänge von Daten)?

a.    Falls ja, wie sieht diese Strategie aus? (Bitte um möglichst konkrete, ausführliche und abschließende Darstellung der Strategie, inkl. Maßnahmen, Milestones.)

b.    Wie bzw. mit welchen Maßnahmen wollen Sie - in Ihrem Zuständigkeitsbereich - gleichzeitig den Schutz von Daten und der Privatsphäre von Bürger_Innen sicherstellen? (Bitte um abschließende Aufzählung aller Maßnahmen.)

9.    Plant die Regierung bzw. Ihr Ministerium spezielle Weiterbildungen für MitarbeiterInnen in Ministerien und anderen staatlichen bzw. öffentlichen Einrichtungen anzubieten, die besagte Mitarbeiter_Innen befähigen neue Technologien, insb. AI/ML (z.B. Data Science) bestmöglich zum Wohle unserer Gesellschaft zu nützen?

a.    Falls ja, wie sollen diese Weiterbildungen ausgestaltet sein und welche Inhalte sollen jedenfalls vermittelt werden?

b.    Falls ja, welche Bildungseinrichtungen oder Personen sollen diese Weiterbildungen durchführen?

c.     Falls ja, soll es einmalige und/oder laufende Wissensüberprüfungen oder Nachschulungen geben?

d.    Falls nein, wieso nicht?

 

10.   Wie           bzw. mit welchen konkreten Maßnahmen will die Regierung bzw. Ihr Ministerium - in Ihrem Zuständigkeitsbereich - eine die Wirtschaft (und langfristig die Wertschöpfung) fördernde und arbeitsplatzschaffende Al-Forschung unterstützen und sicherstellen? (Bitte um abschließende Aufzählung aller Maßnahmen.)

11.  Wie            bzw. mit welchen konkreten Maßnahmen will die Regierung bzw. Ihr Ministerium - in Ihrem Zuständigkeitsbereich, insb. in der Forschung und Bildung - sicherstellen, dass AI ethisch agiert und z.B. keine (bestehenden) Vorurteile oder soziale und ökonomische Ungleichheiten („algorithmic bias“) zementiert oder verstärkt?[1] (Bitte um abschließende Aufzählung aller Maßnahmen.)

a. Planen Sie die Erarbeitung eines ethischen „Code of Conduct“[2] oder eines ähnlichen Regelwerks oder eine solche Erarbeitung aktiv voranzutreiben bzw. zu unterstützen, um sicherzustellen, dass die Forschung (insb. im Hinblick auf „Responsible Research and Innovation“, „RRI“[3]) und Lehre verantwortungsvoll mit dieser neuen Technologie umgehen und sie zum Wohle der Gemeinschaft einsetzen?

i.     Falls ja, welche Maßnahmen werden Sie bis wann setzen? (Bitte um abschließende Aufzählung aller Maßnahmen.)

ii.     Falls ja, welche Form soll das entsprechende Regelwerk haben (z.B. „Soft Governance“, Gesetz, Verordnung)?

iii.    Falls ja, welche Institutionen sollen dieses Regelwerk erarbeiten und weiterentwickeln?

iv.    Falls ja, welche Institutionen sollen dieses Regelwerk durchsetzen und wie?

v.     Falls ja, wie gehen Sie damit um, dass Al-Anwendungen oft außerhalb Österreichs und Europas entwickelt werden, d.h. unter Umständen in Ländern mit anderen Wertesystemen und ethischen Überzeugungen? (Wollen Sie sich z.B. an der Erarbeitung europäischer oder internationaler Standards beteiligen?)

 

vi.  Falls ja, wie wollen Sie mit der Tatsache umgehen, dass grundsätzlich Jede/r - durch selbständige Fortbildung - Al- Applikationen schaffen und anwenden kann? (Es gibt keine Akkreditierung oder ähnliches.)

vii. Falls ja, wie wollen Sie mit der Tatsache umgehen, dass Al- Expert_Innen - ähnlich wie Ärzte - aufgrund des Umfangs der Materie nur begrenztes und oft sehr spezifisches Wissen haben und z.B. nachteilige Konsequenzen Ihrer Handlungen oft nicht vorhersehen können? (Bei Ärzten gibt es deshalb ein sehr robustes System von Regulierung und Verantwortlichkeiten, um Patient_Innen zu schützen.)

viii.Falls ja, wie planen Sie die Wirkung von Al-Anwendungen auf die Gesellschaft und einzelne Akteure, insb. im Zusammenhang mit einem solchen Regelwerk zu prüfen? (Ein Vorbild könnte etwa „Adaptive Licensing“ der Pharmaindustrie sein.)

ix.   ix. Inwiefern soll Gleichbehandlung (im weiten Sinn) und die Verringerung sozialer und ökonomischer Ungleichheiten in einem solchen Regelwerk eine Rolle spielen? (Dies insb. im Hinblick auf „Algorithmic Bias“.)

12. Wie   bzw. mit welchen konkreten Maßnahmen will die Regierung bzw. Ihr Ministerium - angesichts des Spannungsverhältnisses zwischen Datenschutz und AI/ML-Anwendungen, welche in der Regel große Datenmengen benötigen - den Schutz von Daten und der Privatsphäre von BürgerInnen sicherstellen? (Bitte um abschließende Aufzählung aller Maßnahmen.)

13. Werden Ihrer Meinung nach Änderungen der geltenden Rechtslage nötig sein, um alle in dieser Anfrage angesprochenen Strategien und Maßnahmen sowie etwaige Änderungen in der Datenpolitik umzusetzen?

a. Falls ja, welche Rechtsänderungen halten Sie künftig für nötig und wieso? (Bitte um abschließende Aufzählung aller nötigen Rechtsänderungen sowie die Zuordnung zur jeweiligen Frage dieser Anfrage und/oder Strategie oder Maßnahme, die die Gesetzesänderung nötig macht.)

e.    Falls nein, wieso nicht?


[1] Es gibt bereits zahlreiche Organisationen, die sich mit dem Thema „Ethik und AI“ auseinandersetzen z.B. „Leverhulme Centre of future intelligence“ (Cambridge), „one hundred year study of AI“ (Stanford). Relevante Projekte in diesem Zusammenhang wären etwa „OpenAI“, „Machine Intelligence Research Institute“, „Partnership on Artificial Intelligence to benefit people and society“. Auch verschiedene Regierungen haben sich bereits mit diesem Thema beschäftigt, z.B. „White house report on the future of artificial intelligence“ (2016), „Draft Report on robotics and law by the Committee on legal affairs of the European Union” (2016) oder das Strategiepapier von Cédric Vaillani “For a meaningful artificial intelligence: Towards a French and European strategy” (2018). Relevant sind etwa auch lEEEs “Standards Association Global Initiative for ethical considerations in the design of autonomous systems” - siehe auch https://ethicsinaction.ieee.org/.

[2] Eine ausführliche Behandlung dieses Themas findet sich etwa in Boddington, Paula, 2017: Towards a Code of Ethics for Artificial Intelligence. Springer International Publishing.

[3]  Siehe auch österreichischer Forschungs- und Technologiebericht 2017, S. 82 ff.