„Deepfakes sind synthethische oder manipulierte audio-visuelle Medien (Bilder, Audiodateien und Videos) von menschlichen Gesichtern oder Körpern, die meist mithilfe künstlicher Intelligenz erstellt werden. Sie umfassen u.a. Fake Portraits, Stimmsynthesen, den KI-basierten Gesichtertausch in Videos oder die Anpassung der Bewegungen einer gefilmten Person an die einer*s Darsteller*in. 2017 tauchten die ersten als „Deepfakes“ bezeichneten Videos auf – es waren Fake Pornos berühmter Frauen auf Reddit. Seitdem haben sich Deepfake-Technologien rasant weiterentwickelt. Ihre Ergebnisse werden immer realistischer, und sie sind zunehmend auch für Laien verfügbar.
Im Fokus der medialen und politischen Deepfake-Debatte steht ihr politisches Missbrauchspotenzial, etwa zur Wahlmanipulation oder für Propaganda. Diese Befürchtungen bewahrheiten sich zunehmend. So wurden im Zusammenhang mit dem Krieg in der Ukraine Deepfakes von Putin und Selenskyi verbreitet. Bisher erzielten sie zwar kaum Wirkung, aber mit der zunehmenden Qualität von Deepfakes nehmen auch die politischen Gefahren zu. Zudem ermöglicht bereits die Existenz von Deepfakes die so genannte „Lügner*innen-Dividende“: Berühmte Persönlichkeiten, die für Fehlverhalten kritisiert werden, können schlicht behaupten, belastende (Bild-, Video- oder Audio-) Beweise seien gefälscht. Aktuell besonders bedrohlich sind außerdem Deepfake-Pornos. Dies ist noch immer der häufigste Einsatzbereich der Technologie. Deepfake-Pornos haben schwere psychische Folgen für die Betroffenen, führen zu Nachteilen etwa am Arbeitsplatz, und bedrohen die Gleichstellung von Frauen in einer digitalen Gesellschaft. Daneben nutzen Kriminelle Deepfakes zunehmend für Betrug und Identitätsdiebstahl.
Die Technologie birgt aber auch große Potenziale, gerade für die Kreativwirtschaft. Künstlerische Deepfakes legen Berühmtheiten wie Trump reuige Worte in den Mund („Deep Reckonings“) oder lassen Zuschauer*innen in die Rolle von Drag-Performer*innen schlüpfen („The Zizi Show“). Deepfakes ermöglichen personalisierte Werbung wie die des Schokoladenherstellers Cadbury in Indien, die es lokalen Geschäften erlaubte, mit dem Deepfake eines Bollywood-Stars für sich zu werben. Filme können gedreht werden, ohne dass die Darsteller*innen am Set sein müssen, und Deepfakes verjüngen Gesichter günstig und überzeugend. Auch die digitale „Wiederbelebung“ Verstorbener wird möglich. Beispiele reichen von einer Kampagne gegen Waffengewalt in den USA mit dem Deepfake eines erschossenen Teenagers über Sequels mit verstorbenen Darsteller*innen bis hin zur Gutenachtgeschichte, „gelesen“ von der toten Großmutter über Amazon Alexa.
Auch solche kommerziellen und künstlerischen Nutzungen von Deepfakes werfen wichtige ethische Fragen auf. Hier geht es u.a. um ihr Täuschungspotenzial, aber auch die Bedeutung der Zustimmung der Abgebildeten und ihr Persönlichkeitsrecht. Solche ethischen Fragen müssen dringend gesellschaftlich diskutiert werden, denn Deepfakes werden unsere Zukunft prägen – von der Werbung über die Pop- und Trauerkultur bis hin zur Politik.“
Maria Pawelec
Internationales Zentrum für Ethik in den Wissenschaften (IZEW), Universität Tübingen
