Russland verbreitet Propaganda über ChatGPT & Co.

Ein russisches Desinformationsnetzwerk beeinflusst westliche Chatbots, um seine Propaganda weltweit zu verbreiten. Das ist der Kernbefund einer Studie der Organisation Newsguard. Den Ergebnissen zufolge liefern KI-Anwendungen wie ChatGPT oder Google Gemini zu 33 Prozent pro-russische Fake News als Antworten. 

"Eine riesige Menge russischer Propaganda – 3'600'000 Artikel aus dem Jahr 2024 sind nun in den Ergebnissen westlicher KI-Systeme enthalten und infizieren deren Antworten mit falschen Behauptungen und Propaganda", schreiben die Newsguard-Forscherinnen McKenzie Sadeghi und Isis Blachez in einem Bericht.

Prawda manipuliert grosse Sprachmodelle

Hinter der globalen Desinformationskampagne soll das in Moskau ansässige Prawda-Netzwerk stecken. Prawda - was übersetzt ironischerweise "Wahrheit" bedeutet - flute grosse Sprachmodelle (LLMs) von KI-Dialog-Assistenten mit Fake News. Das sogenannte LLM Grooming würde Chatbots mit Falschinformationen von Prawda überschwemmen und sie dadurch gezielt beeinflussen, diese Inhalte in den Antworten zu platzieren.

Gemäss der Newsguard-Studie, die 10 KI-Chatbots untersuchte, darunter ChatGPT-4, Grok, Copilot, Google Gemini und Perplexity, gaben alle Dialog-Assistenten pro-russische Propaganda von Prawda wider. Sieben von ihnen hätten sogar Prawda-Artikel als legitime Quelle zitiert. 

Prawda gewinnt immer mehr an Reichweite

Seit seiner Gründung 2022 sei das Prawda-Netzwerk rasant gewachsen und decke mittlerweile 49 Länder und Dutzende Sprachen ab. Prawda - auch "Portal Kombat" genannt - verbreite in seinen Propagandakampagnen keine eigenen Inhalte, sondern teile Artikel von russischen Staatsmedien und kremlfreundlichen Influencern auf Plattformen wie X, Telegram oder Bluesky. 

Auch eine Studie des American Sunlight Projects (ASP) hat Prawdas Gefahr erkannt und merkt an: "Die langfristigen - politischen, sozialen und technologischen - Risiken, die mit dem potenziellen LLM Grooming innerhalb dieses Netzwerks verbunden sind, sind hoch. Je grösser die Anzahl der pro-russischen Narrative ist, desto wahrscheinlicher ist es, dass sie in ein LLM integriert werden."

USA wehren sich nicht

Bei Newsguards Tests hätten 6 von 10 Chatbots auf die Frage, warum Wolodymyr Selenskyj die Truth Social App von Donald Trump verboten hätte (was er nie tat), eine Falschmeldung als Antwort geliefert. Viele von ihnen gaben laut der Studie Artikel von Prawda als Quelle an. Auch die Behauptung, dass die USA geheime Biowaffenlabors in der Ukraine betreiben würden, hätten die KI-Bots als Wahrheit dargestellt.

Doch die US-amerikanischen Betreiber der KI-Anwendungen scheinen in naher Zukunft nichts gegen die Verbreitung pro-russischer Propaganda zu unternehmen. Denn der US-Verteidigungsminister Pete Hegseth erteilte dem General Timothy Haugh, Kommandeur von US Cyber Command, den Befehl, sämtliche Planungen zu Operationen in Bezug auf Russland einzustellen. Das Prawda-Netzwerk dürfte sich über diese Entwicklung freuen.

Das könnte Sie auch interessieren: Russland setzt Cyberkriminalität gezielt als hybride Kriegsführung im Ukrainekrieg ein. Lesen Sie hier, wie China, Iran und Nordkorea Cyberkriminalität als Waffe einsetzen.

Wenn Sie mehr zu Cybercrime und Cybersecurity lesen möchten, melden Sie sich hier für den Newsletter von Swisscybersecurity.net an. Auf dem Portal lesen Sie täglich News über aktuelle Bedrohungen und neue Abwehrstrategien.