Fachinfos - Zukunftsthemen 30.11.2022

Deepfakes – Perfekt gefälschte Bilder und Videos

Künstliche Intelligenz kombiniert mit Audio- und Bildbearbeitungs-software. (30. November 2022)

Zusammenfassung

Gefälschte Bilder sind nichts Neues. Aber die Fähigkeit, alternative Fakten zu schaffen hat mit der Deepfake-Technologie einen signifikanten Sprung gemacht. Es ist mittlerweile relativ einfach möglich, Audio- und Video-Dateien von echt wirkenden Menschen zu erstellen, die Dinge sagen und tun, die sie nie gesagt oder getan haben. Dabei werden eigenständig lernende Algorithmen wie neurale Netzwerke mit Audio und Bildbearbeitungssoftware kombiniert. Das Ergebnis sind – für den bzw. die Laien/Lain nicht vom Original zu unterscheidende – Fälschungen. Welche Risiken birgt das? 

Vor allem Videos, die als Medium bisher ein relativ hohes Vertrauen genießen, können für Rufschädigung, Erpressung oder Marktmanipulation missbraucht werden – mit eklatanten Folgen für Einzelne, Unternehmen und Gesellschaft. Potenzielle Gefahr für die Demokratie, sowie nationale und internationale Sicherheit könnte etwa von gefälschten Aufnahmen von Gewalt, Kriegserklärungen, Ankündigungen drohender Katastrophen oder Beweisen für das kriminelle Verhalten eines Staatsoberhaupts ausgehen. Auch Wahlbeeinflussung oder staatlicher, z. B. polizeilicher oder geheimdienstlicher Missbrauch der Technologie sind denkbar. Außerdem könnte die unkontrollierte Verbreitung von Deepfakes zu einem starken Verlust von Vertrauen in politische und mediale Institutionen führen.

Deepfakes – Perfekt gefälschte Bilder und Videos / PDF, 189 KB

Monitoringbericht gesamt (November 2022) / PDF, 11472 KB