„Wir können nicht länger darauf vertrauen, dass Umfrageantworten von echten Menschen stammen“, sagte der Hauptautor einer neuen Studie der Dartmouth University.
Künstliche Intelligenz (KI) macht es laut einer neuen Studie nahezu unmöglich, menschliche Reaktionen von Bots in Online-Meinungsumfragen zu unterscheiden.
Eine am Montag in den Proceedings of the National Academy of Sciences veröffentlichte Studie der Dartmouth University zeigt, dass große Sprachmodelle (LLMs) öffentliche Meinungsumfragen in großem Maßstab korrumpieren können.
„Sie können menschliche Persönlichkeiten nachahmen, aktuelle Erkennungsmethoden umgehen und trivial so programmiert werden, dass sie die Ergebnisse von Online-Umfragen systematisch verzerren“, heißt es in der Studie.
Die Ergebnisse zeigen eine „kritische Schwachstelle in unserer Dateninfrastruktur“, die eine „potenzielle existenzielle Bedrohung für unbeaufsichtigte Online-Forschung“ darstellt, sagte der Autor der Studie, Sean Westwood, außerordentlicher Professor für Regierung in Dartmouth.
Die Einmischung von KI in Umfragen könnte entscheidende Wahlen noch komplexer machen. Online-Überwachungsgruppen haben bei Europawahlen bereits Desinformationskampagnen gemeldet, die durch KI vorangetrieben werden, darunter kürzlich auch in Moldawien.
Das System austricksen
Um die Anfälligkeit der Online-Umfragesoftware zu testen, hat Westwood einen „autonomen synthetischen Befragten“ entworfen und gebaut, ein einfaches KI-Tool, das mit einer Eingabeaufforderung von 500 Wörtern arbeitet.
Für jede Umfrage übernimmt das Tool eine demografische Person auf der Grundlage zufällig zugewiesener Informationen – einschließlich Alter, Geschlecht, Rasse, Bildung, Einkommen und Wohnsitzstaat.
Mit dieser Persona würde es realistische Lesezeiten simulieren, menschenähnliche Mausbewegungen erzeugen und offene Antworten Tastendruck für Tastendruck eingeben – komplett mit plausiblen Tippfehlern und Korrekturen.
In über 43.000 Tests täuschte das Tool 99,8 Prozent der Systeme vor, es sei ein Mensch. Es machte bei Logikrätseln keine Fehler und umging herkömmliche Sicherheitsmaßnahmen zur Erkennung automatisierter Antworten, wie z. B. reCAPTCHA.
„Das sind keine einfachen Bots“, sagte Westwood. „Sie denken über jede Frage nach und verhalten sich wie echte, sorgfältige Menschen, sodass die Daten völlig legitim aussehen.“
Können wir Umfrageergebnissen noch vertrauen?
Die Studie untersuchte die praktische Anfälligkeit politischer Umfragen am Beispiel der US-Präsidentschaftswahl 2024.
Westwood stellte fest, dass nur 10 bis 52 gefälschte KI-Antworten nötig gewesen wären, um das vorhergesagte Wahlergebnis in sieben hochrangigen nationalen Umfragen umzudrehen – und zwar in der entscheidenden letzten Wahlkampfwoche.
Die Bereitstellung jedes dieser automatischen Befragten hätte nur 5 US-Cent (4 Euro-Cent) gekostet.
In Tests funktionierten die Bots sogar, wenn sie auf Russisch, Mandarin oder Koreanisch programmiert waren – und lieferten einwandfreie englische Antworten. Dies bedeutet, dass sie leicht von ausländischen Akteuren ausgenutzt werden könnten, von denen einige über die Ressourcen verfügen, noch ausgefeiltere Tools zu entwickeln, um einer Entdeckung zu entgehen, warnte die Studie.
Auch die wissenschaftliche Forschung stützt sich in hohem Maße auf Umfragedaten – jedes Jahr werden Tausende von Peer-Review-Studien veröffentlicht, die auf Daten von Online-Sammelplattformen basieren.
„Wenn Umfragedaten durch Bots verfälscht werden, kann KI das gesamte Wissensökosystem vergiften“, sagte Westwood.
In seiner Studie wird argumentiert, dass die wissenschaftliche Gemeinschaft dringend neue Methoden entwickeln muss, um Daten zu sammeln, die nicht durch fortschrittliche KI-Tools manipuliert werden können.
„Die Technologie existiert, um echte menschliche Beteiligung zu überprüfen; wir brauchen nur den Willen, sie umzusetzen“, sagte Westwood.
„Wenn wir jetzt handeln, können wir sowohl die Integrität der Umfragen als auch die demokratische Rechenschaftspflicht, die sie bietet, bewahren.“
