Nachdem das Video auf Facebook geteilt wurde, erreichte es schnell mehr als 12 Millionen Aufrufe.
Frankreichs Präsident Emmanuel Macron entdeckte Nachrichten über seinen eigenen angeblichen Sturz, nachdem er eine besorgniserregende Nachricht zusammen mit einem Link zu einem Facebook-Video erhalten hatte.
„Am Sonntag (14. Dezember) meldete sich einer meiner afrikanischen Amtskollegen und schrieb: ‚Sehr geehrter Präsident, was passiert mit Ihnen? Ich mache mir große Sorgen‘“, sagte Macron am 16. Dezember den Lesern der französischen Lokalzeitung La Provence.
Neben der Botschaft ist ein fesselndes Video zu sehen, das einen wirbelnden Hubschrauber, Militärangehörige, Menschenmengen und – scheinbar – einen Nachrichtensprecher zeigt, der einen Beitrag vor die Kamera hält.
„Inoffizielle Berichte deuten darauf hin, dass es in Frankreich einen Putsch gegeben hat, der von einem Oberst angeführt wurde, dessen Identität nicht bekannt gegeben wurde, und dass es zu einem möglichen Sturz von Emmanuel Macron kommen könnte. Allerdings haben die Behörden keine klare Stellungnahme abgegeben“, sagt sie.
Allerdings ist nichts an diesem Video authentisch: Es wurde mit KI erstellt.
Nachdem er das Video entdeckt hatte, bat Macron Pharos – Frankreichs offizielles Portal zur Meldung illegaler Online-Inhalte –, die Facebook-Muttergesellschaft Meta anzurufen, um die Entfernung des gefälschten Videos zu veranlassen.
Dieser Antrag wurde jedoch abgelehnt, da die Plattform behauptete, sie habe nicht gegen ihre „Nutzungsregeln“ verstoßen.
Der französische Präsident beschloss daraufhin, die Abschaffung selbst in die Hand zu nehmen.
„Ich neige dazu zu glauben, dass ich mehr Macht habe, Druck auszuüben als andere“, sagte Macron. „Oder besser gesagt, dass es einfacher ist, zu sagen, dass etwas ernst ist, wenn ich derjenige bin, der anruft, aber es funktioniert nicht.“
„Diese Leute verspotten uns“, fügte er hinzu. „Ihnen ist die Gelassenheit öffentlicher Debatten egal, ihnen ist die Demokratie egal, und deshalb bringen sie uns in Gefahr.“
Wer steckt hinter diesen Fake-Videos?
Das Originalvideo, das schnell mehr als 12 Millionen Aufrufe verzeichnete, wurde ursprünglich von einem Facebook-Konto namens „Islam“ gepostet, das trotz seines Namens keine religiösen Inhalte postet.
Der Teenager, der das Konto führt, lebt in Burkina Faso und verdient Geld mit der Durchführung von Kursen, die sich auf die Monetarisierung von KI konzentrieren.
Aufgrund politischer und öffentlicher Kontroversen nahm er das Video schließlich mehr als eine Woche nach seiner Erstveröffentlichung vom Netz.
Das Faktenprüfungsteam von L’Observatoire de l’Europe, The Cube, versuchte mehrfach, ihn über die auf seinem Facebook-Konto angegebene Nummer zu erreichen, doch bisher blieben unsere Anrufe unbeantwortet.
In einigen Videos sind KI-generierte Nachrichtensprecher zu sehen, die ein Mikrofon mit dem Logo von Radio France Internationale (RFI), dem internationalen Zweig des französischen öffentlich-rechtlichen Rundfunks, halten.
Einige Videos tragen das Wasserzeichen „Sora“, was darauf hindeutet, dass ein Großteil dieser Inhalte wahrscheinlich mit dieser Technologie produziert wurde.
Sora 2, eine Technologie von OpenAI – dem gleichen Unternehmen, das Chat GPT gegründet hat – ermöglicht es Benutzern, 10 Sekunden lange hyperrealistische Videos aus Textaufforderungen zu erstellen.
Obwohl andere Videos dieses Logo nicht zeigen, ist es möglich, es während der Postproduktion zu entfernen.
Seit ihrer Einführung im Oktober hat die Technologie Kontroversen ausgelöst und zu einer Verbreitung hochentwickelter und schwer erkennbarer KI-Videos in den sozialen Medien geführt.
