Dänemark möchte normale Dänen sowie Künstler und Künstler schützen, deren Aussehen oder Stimme ohne ihre Erlaubnis nachgeahmt und weitergegeben werden könnte.
Im Jahr 2021 erhielt die dänische Videospiel-Livestreamerin Marie Watson ein Bild von sich von einem unbekannten Instagram-Konto.
Sie erkannte den Urlaubsschnappschuss auf ihrem Instagram-Account sofort wieder, doch irgendetwas war anders: Ihre Kleidung war digital entfernt worden, um sie nackt erscheinen zu lassen. Es war ein Deepfake.
„Es hat mich so überwältigt“, erinnert sich Watson. „Ich fing gerade an, in Tränen auszubrechen, weil ich plötzlich nackt da war.“
In den vier Jahren seit ihrer Erfahrung sind Deepfakes – hochrealistische Bilder, Videos oder Audioaufnahmen von echten Menschen oder Ereignissen, die durch künstliche Intelligenz (KI) generiert werden – nicht nur weltweit einfacher zu erstellen, sondern sehen auch exponentiell realistischer aus und klingen auch exponentiell realistischer.
Dies ist dem technologischen Fortschritt und der Verbreitung generativer KI-Tools zu verdanken, darunter Tools zur Videogenerierung von OpenAI und Google.
Diese Tools geben Millionen von Benutzern die Möglichkeit, problemlos Inhalte auszuspucken, auch für schändliche Zwecke, die von der Darstellung der Prominenten Taylor Swift und Katy Perry bis hin zur Störung von Wahlen und der Demütigung von Teenagern und Frauen reichen.
Urheberrecht
Als Reaktion darauf versucht Dänemark, normale Dänen sowie Künstler und Künstler zu schützen, deren Aussehen oder Stimme ohne ihre Erlaubnis nachgeahmt und weitergegeben werden könnte.
Ein Gesetzesentwurf, der voraussichtlich Anfang nächsten Jahres verabschiedet wird, würde das Urheberrecht ändern, indem er die Weitergabe von Deepfakes verbietet, um die persönlichen Merkmale der Bürger – wie ihr Aussehen oder ihre Stimme – davor zu schützen, ohne ihre Zustimmung nachgeahmt und online weitergegeben zu werden.
Im Falle einer Verabschiedung würden dänische Bürger das Urheberrecht an ihrem eigenen Abbild erhalten. Theoretisch könnten sie dann verlangen, dass Online-Plattformen Inhalte entfernen, die ohne ihre Erlaubnis geteilt werden. Das Gesetz würde weiterhin Parodien und Satire zulassen, obwohl unklar ist, wie dies festgelegt wird.
Experten und Beamte sagen, dass die dänische Gesetzgebung einer der umfassendsten Schritte wäre, die eine Regierung bisher zur Bekämpfung von Fehlinformationen durch Deepfakes unternommen hat.
Henry Ajder, Gründer des Beratungsunternehmens Latent Space Advisory und führender Experte für generative KI, sagte, er lobe die dänische Regierung dafür, dass sie erkannt habe, dass das Gesetz geändert werden müsse.
„Denn wenn die Leute gerade jetzt fragen: ‚Was kann ich tun, um mich vor Deepfakes zu schützen?‘ „Die Antwort, die ich meistens geben muss, ist: ‚Es gibt nicht viel, was man tun kann‘“, sagte er, „ohne dass ich im Grunde sage: ‚Vermeide das Internet komplett.‘ Was eigentlich nicht möglich ist.“
Er fügte hinzu: „Wir können nicht einfach so tun, als ob dies in Bezug auf die Art und Weise, wie wir über diese wichtigen Teile unserer Identität und unserer Würde denken, normal sei.“
Deepfakes und Fehlinformationen
US-Präsident Donald Trump hat im Mai ein parteiübergreifendes Gesetz unterzeichnet, das die wissentliche Veröffentlichung oder Androhung intimer Bilder ohne die Zustimmung einer Person, einschließlich Deepfakes, illegal macht.
Im vergangenen Jahr hat Südkorea Maßnahmen zur Eindämmung von Deepfake-Pornos eingeführt, darunter härtere Strafen und verschärfte Vorschriften für Social-Media-Plattformen.
Der dänische Kulturminister Jakob Engel-Schmidt sagte, dass der Gesetzentwurf breite Unterstützung bei den Gesetzgebern in Kopenhagen habe, da solche digitalen Manipulationen Zweifel an der Realität schüren und Fehlinformationen verbreiten könnten.
„Wenn man in der Lage ist, einen Politiker zu fälschen, ohne dass er oder er die Möglichkeit hat, das Produkt zu entfernen, untergräbt das unsere Demokratie“, sagte er Reportern während einer KI- und Urheberrechtskonferenz im September.
Die richtige Balance
Das Gesetz würde nur in Dänemark gelten und dürfte für Social-Media-Nutzer keine Geld- oder Gefängnisstrafen nach sich ziehen. Aber große Tech-Plattformen, die Deepfakes nicht entfernen, könnten mit hohen Geldstrafen rechnen, sagte Engel-Schmidt.
Ajder sagte, YouTube zum Beispiel, das zu Google gehört, verfüge über ein „sehr, sehr gutes System, um das Gleichgewicht zwischen Urheberrechtsschutz und kreativer Freiheit zu finden“.
Die Bemühungen der Plattform deuten darauf hin, dass sie „das Ausmaß der Herausforderung, die bereits besteht, und wie viel größer sie noch werden wird“, erkennt, fügte er hinzu.
Twitch, TikTok und Meta, dem Facebook und Instagram gehören, reagierten nicht auf Anfragen nach Kommentaren.
Engel-Schmidt sagte, dass Dänemark, das derzeit die rotierende Präsidentschaft der Europäischen Union innehat, von mehreren anderen EU-Mitgliedstaaten, darunter Frankreich und Irland, Interesse an seinen Gesetzesvorschlägen erhalten habe.
Der Anwalt für geistiges Eigentum, Jakob Plesner Mathiasen, sagte, dass die Gesetzgebung die weit verbreitete Notwendigkeit zeige, die Online-Gefahr zu bekämpfen, die mittlerweile jeden Aspekt des dänischen Lebens erfasst.
„Ich denke, es heißt auf jeden Fall, dass das Ministerium diesen Gesetzentwurf nicht machen würde, wenn es dafür keinen Anlass gegeben hätte“, sagte er.
„Wir sehen es bei Fake News, bei Regierungswahlen. Wir sehen es bei Pornografie, und wir sehen es auch bei berühmten Leuten und auch bei alltäglichen Menschen – wie dir und mir.“
Die Danish Rights Alliance, die die Rechte der Kreativwirtschaft im Internet schützt, unterstützt den Gesetzentwurf, weil ihr Direktor sagt, dass das geltende Urheberrecht nicht weit genug gehe.
Der dänische Synchronsprecher David Bateson war beispielsweise ratlos, als KI-Stimmenklone von Tausenden von Nutzern online geteilt wurden. Bateson sprach eine Figur im beliebten Videospiel „Hitman“ sowie die englischen Werbespots des dänischen Spielzeugherstellers Lego.
„Als wir dies den Online-Plattformen gemeldet haben, sagten sie: ‚OK, aber auf welche Regelung beziehen Sie sich?‘“, sagte Maria Fredenslund, Rechtsanwältin und Direktorin der Allianz.
„Eine genaue Regelung konnten wir in Dänemark nicht nachweisen.“
„Wenn es online ist, sind Sie fertig“
Watson hatte von anderen Influencern gehört, die online digital veränderte Bilder von sich selbst gefunden hatten, hätte aber nie gedacht, dass ihr das passieren könnte.
Sie tauchte in die dunkle Seite des Internets ein, wo gesichtslose Benutzer gefälschte Bilder verkaufen und teilen – oft von Frauen – und sagte, sie sei schockiert, wie einfach es sei, solche Bilder mit leicht verfügbaren Online-Tools zu erstellen.
„Man könnte buchstäblich einfach bei Google nach ‚Deepfake-Generator‘ oder ‚Wie man ein Deepfake erstellt‘ suchen, und schon würden alle diese Websites und Generatoren auftauchen“, sagte der 28-jährige Watson.
Sie ist froh, dass ihre Regierung Maßnahmen ergreift, aber sie macht sich keine Hoffnungen. Sie glaubt, dass mehr Druck auf Social-Media-Plattformen ausgeübt werden muss.
„Es sollte nicht möglich sein, solche Bilder hochzuladen“, sagte sie. „Wenn es online ist, bist du fertig. Du kannst nichts tun, es liegt außerhalb deiner Kontrolle.“
