Als die Wähler zur Wahl gingen, um Irlands nächsten Präsidenten zu wählen, waren einige von ihnen möglicherweise überrascht, den Namen von Catherine Connolly auf dem Stimmzettel zu sehen.
Nur wenige Tage zuvor war ein Deepfake-Video im Umlauf, das den späteren Sieger beim Rückzug aus dem Rennen zeigte und in seiner Fake-Realität Connolly und mehrere Journalisten nachahmte.
In den Niederlanden wurde festgestellt, dass zwei rechtsextreme Parlamentsabgeordnete hinter einer Facebook-Seite steckten, die vor der knappen Wahl am Sonntag Fake-Bilder ihres linken Rivalen verbreitete, was zu Entschuldigungen und Vorwürfen führte.
Dies war die Woche, in der künstliche Intelligenz zwei europäische Wahlkämpfe stark beeinträchtigte und erhebliche Lücken in den laufenden Bemühungen zur Eindämmung unangemessener Einflussnahme auf Wähler aufdeckte.
Es bestehen Bedenken darüber, was das für die europäische Politik und ihre Wähler bedeutet, da Politiker und Regulierungsbehörden sich der Ankunft von KI-generierten Text- und Videoinhalten bewusst werden, die seit einiger Zeit Teil des politischen Lebens in den USA sind.
„Die Normalisierung solcher Praktiken ist besorgniserregend“, sagte Hannes Cools, Assistenzprofessor für den menschlichen Faktor in neuen Technologien an der Universität Amsterdam.
Die niederländische Wahl „ist eine der ersten Wahlen in Europa, bei der wir sehen, dass (die Technologie) auf verschiedene Weise zu einem integralen Bestandteil von Wahlkämpfen geworden ist“, sagte Claes de Vreese, Professor für künstliche Intelligenz und Gesellschaft an der Universität Amsterdam.
In einer Untersuchung von rund 20.000 wahlbezogenen Stellen in den Niederlanden stellten Forscher der Universität Amsterdam und der Universität Mainz fest, dass über 400 Stellen KI-generiert waren.
Die Partei des rechtsextremen Führers Geert Wilders, die Partei für die Freiheit (PVV), lag beim Einsatz von KI an der Spitze. Mehr als ein Viertel der AI-Posts (insgesamt 120) konnten auf PVV-verknüpfte Konten zurückgeführt werden.
Wilders startete die Kampagne der PVV mit einem KI-generierten Video, das ein fiktives zukünftiges Niederlande zeigt, das unter dem Scharia-Gesetz lebt. Die niederländische Wochenzeitung De Groene Amsterdammer berichtete, dass das Video mit dem Videogenerator Sora von OpenAI erstellt wurde.
Auf die Frage nach der Dominanz extremistischer oder Randparteien beim Einsatz von KI antwortete der Forscher Fabio Votta: „Der Einsatz von KI hat immer noch einen normativen Aspekt.“
„Für die Rechtsextremen sind viele ihrer Vorgehensweisen normverletzend und schockierend. Sie haben keine Angst davor, dass ihr Ruf Schaden nimmt.“
Dennoch unternahm Wilders am Montag den seltenen Schritt, sich bei Frans Timmermans zu entschuldigen, einem ehemaligen Schwergewicht der Europäischen Kommission und Vorsitzenden der Fraktion GreenLabor-Left, nachdem durch die niederländische Presse bekannt wurde, dass zwei PVV-Parlamentsabgeordnete hinter einer Facebook-Seite steckten, auf der aufrührerische, KI-generierte Darstellungen von ihm verbreitet wurden.
Auf einem der Bilder, die von der niederländischen Tageszeitung De Volkskrant gezeigt wurden, war zu sehen, wie Timmermans in Handschellen von der Polizei abgeführt wurde. In einem anderen Fall hatte er einen Haufen Geld in der Hand.
In Irland brandmarkte die Kandidatin das gefälschte Video, in dem Connolly ihren Rückzug aus der Präsidentschaftswahl ankündigte, als „schändlichen Versuch, Wähler in die Irre zu führen und unsere Demokratie zu untergraben“.
In einem gefälschten Bulletin des irischen Nationalsenders RTÉ war in dem Video eine Deepfake-Version von Connolly zu sehen, in der er erklärte: „Mit großem Bedauern verkünde ich den Rückzug meiner Kandidatur und das Ende meines Wahlkampfs“, wobei Deepfake-Versionen von zwei bekannten Fernsehmoderatoren die Nachricht bestätigten und die Auswirkungen diskutierten.
Sowohl Meta als auch das zu Google gehörende YouTube haben das Connolly-Video von ihren Plattformen entfernt, ohne anzugeben, wie lange es schon online war. Der irische linke unabhängige Kandidat gewann die Wahl mit 63 Prozent der Stimmen überzeugend.
Die Darstellung fiktiver Ereignisse oder der Angriff oder die Diskreditierung anderer Kandidaten sind nur zwei Möglichkeiten, wie KI-generierte Inhalte eingesetzt werden, um die Stimmung zu beeinflussen.
Forscher warnen auch vor einer dritten, wohl direkteren Methode, mit der KI den Wahlausgang beeinflussen könnte: Benutzer fragen KI-Chatbots, wen sie wählen sollen.
Da eine große Mehrheit der Wähler in der Regel bis zu den letzten Wahltagen unentschlossen ist, warnte die niederländische Datenschutzbehörde die Wähler am 21. Oktober davor, KI-Chatbots um Rat bei der Wahl zu bitten, da diese ein „stark verzerrtes und polarisiertes Bild der niederländischen politischen Landschaft“ vermitteln.
„Chatbots sind voller Fehler“, sagte de Vreese und fügte hinzu, dass „sie verschiedene Parteipositionen den falschen Parteien zuordnen, und sie scheinen auch eine Art Sogwirkung“ in eine bestimmte politische Richtung zu haben.
Ein Experiment zeigte, dass Chatbots das GreenLeft-Labour-Ticket für Wähler auf der linken Seite bevorzugten, während Wähler auf der rechten Seite sich hauptsächlich an die rechtsextreme PVV richteten.
„Menschen mit geringer Lese- und Schreibkompetenz sind besonders anfällig für durch KI erzeugte Desinformation“, sagte Cools.
Die Aufsichtsbehörden in Brüssel haben Wahlintegrität, KI-Risiken und Online-Desinformation zu obersten Prioritäten gemacht, und ein Flickenteppich laufender Bemühungen sorgte dafür, dass sie den Ausgang der Wahlen beobachteten.
Da die Technologie zur Generierung von KI-Inhalten und die Plattformen für deren Verbreitung größtenteils in den USA angesiedelt sind, sind alle Augen auf Brüssel gerichtet, um eine blockweite Antwort zu erhalten.
Das mächtige EU-Gesetz über digitale Dienste überträgt den Plattformen eine gewisse Verantwortung, Risiken für Wahlen zu bewältigen, und sowohl Meta als auch Google haben generative KI als einen großen Risikofaktor erkannt – was wahrscheinlich zu ihrer Entscheidung beigetragen hat, das Connolly-Video zu entfernen.
Die Anforderungen beruhen jedoch hauptsächlich auf Bedenken hinsichtlich Fehlinformationen und nicht auf Bemühungen, zu regulieren, wie europäische politische Parteien generative KI zur Verbreitung ihrer Botschaften nutzen.
Auch die Kennzeichnung ist ein wichtiger Teil der Reaktion, wie sie in einem separaten EU-Gesetz speziell für künstliche Intelligenz vorgeschrieben ist. Forscher der Universität Amsterdam wiesen darauf hin, dass die meisten Beiträge, die sie für die niederländische Wahl verfolgten, keinen Haftungsausschluss zur KI-Kennzeichnung enthielten. Für diejenigen, die es getan haben, war es die Plattform, die es hinzugefügt hat, nicht die politischen Parteien.
Weitere Gesetze, die sich mit der Angelegenheit befassen könnten, sind in Vorbereitung.
Die Europäische Kommission erarbeitet Leitlinien für sogenannte Hochrisiko-KI-Systeme, die eine Gefahr für die Grundrechte der Menschen darstellen können und frühestens im August 2026 in Kraft treten sollen. „Diese Leitlinien werden einen Abschnitt über KI-Systeme enthalten, die Wahlergebnisse oder Referenden beeinflussen sollen“, sagte Kommissionssprecher Thomas Regnier.
Entwickler der komplexesten KI-Modelle wie GPT von OpenAI oder Gemini von Google müssen bereits seit August eine Reihe von Verpflichtungen einhalten, darunter die Minderung „systemischer Risiken“ für demokratische Prozesse.
Nächsten Monat wird Brüssel einen weiteren Vorschlag vorstellen, der die EU-Länder dabei unterstützen soll, die Fairness und Integrität von Wahlkämpfen gegen ausländische Manipulation und Einmischung zu wahren. Verbindliche rechtliche Vorgaben werden darin voraussichtlich nicht enthalten sein.
