Russische Desinformationskampagnen richten sich längst nicht mehr nur an menschliche Leserinnen und Leser. Wie aktuelle Forschung zeigt, nehmen sie zunehmend auch KI-Sprachmodelle wie ChatGPT, Gemini oder Claude ins Visier. Ziel ist es, Propaganda – insbesondere zum Krieg in der Ukraine – direkt in die Trainingsdaten dieser Systeme einzuschleusen. Der Aufwand dafür ist offenbar deutlich geringer als bislang angenommen.
Ausgangspunkt dieser Erkenntnisse ist die Arbeit der US-Desinformationsforscherin Sophia Freuden, die für die NGO American Sunlight Project tätig ist. Bei ihren Recherchen stieß sie auf das sogenannte Pravda-Netzwerk, ein russisches Desinformationsnetzwerk, das 2024 erstmals von französischen Behörden identifiziert wurde. Das Netzwerk betreibt eine Vielzahl gefälschter Nachrichtenportale, auf denen mithilfe künstlicher Intelligenz Inhalte aus staatsnahen russischen Medien wie RT oder Sputnik automatisiert kopiert, übersetzt und veröffentlicht werden. Thematisch dominieren dabei prorussische Narrative zum Ukraine-Krieg.
Zunächst wirkte das Vorgehen widersinnig: Jährlich produziert das Netzwerk rund 3,6 Millionen Texte, die kaum jemand liest. Die Webseiten sind unübersichtlich, schlecht strukturiert, ohne Suchfunktionen und nahezu ohne menschliche Zugriffe. Für klassische Propaganda wären sie praktisch wirkungslos. Erst bei genauerer Analyse wurde klar: Menschen sind gar nicht die Zielgruppe.
Die Inhalte richten sich gezielt an Maschinen. Einerseits an Webcrawler von Suchmaschinen, andererseits – und das ist entscheidend – an sogenannte Scraping-Algorithmen, die große Mengen öffentlich zugänglicher Texte sammeln, um daraus Trainingsdaten für KI-Modelle zu erstellen. KI-Sprachmodelle werden in ihrer ersten Trainingsphase, dem sogenannten Pretraining, mit riesigen Mengen ungefilterter Internettexte gefüttert. Diese Phase prägt die „Allgemeinbildung“ der Modelle, bevor sie später mit kuratierten Daten weiter verfeinert werden. Genau hier setzt die Manipulation an.
Die Forscherinnen und Forscher vermuten, dass das eigentliche Ziel des Pravda-Netzwerks darin besteht, Large Language Models langfristig mit russischen Desinformationsnarrativen zu durchsetzen. Die Folge wäre, dass KI-Chatbots weltweit und in unterschiedlichen Sprachen verzerrte oder propagandistische Inhalte ausgeben. Das ist besonders problematisch, da immer mehr Menschen KI-Chatbots nicht nur für kreative Zwecke, sondern als Ersatz für Suchmaschinen und klassische Nachrichtenquellen nutzen, warnt Nina Jankowicz, Gründerin des American Sunlight Project.
In der Fachwelt wird dieses Vorgehen als „LLM Grooming“ bezeichnet – eine langfristige, strategische Beeinflussung von Sprachmodellen durch gezielte Inhalte. Es handelt sich um eine spezielle Form des sogenannten „LLM Poisoning“, also der „Vergiftung“ von KI-Modellen. Dabei geht es nicht nur um politische Propaganda. Ähnliche Methoden könnten auch für Spionage, Sabotage oder Erpressung genutzt werden, etwa indem Modelle dazu gebracht werden, Sicherheitsmechanismen zu umgehen oder sensible Informationen preiszugeben.
Besonders alarmierend sind neue Forschungsergebnisse eines internationalen Teams aus dem UK AI Security Institute, dem Alan Turing Institute und dem KI-Unternehmen Anthropic. In einem groß angelegten Experiment testeten die Wissenschaftler, wie viele manipulierte Texte nötig sind, um ein Sprachmodell zu beeinflussen. Das Ergebnis widerspricht früheren Annahmen deutlich: Statt eines relevanten Anteils am gesamten Trainingsdatensatz reichen bereits rund 250 gezielt präparierte Dokumente aus, um messbare Effekte zu erzielen – unabhängig von der Größe des Modells.
Mit solchen Texten lassen sich sogenannte Triggerphrasen oder Schlüsselbegriffe einbauen, die das Modell bei bestimmten Eingaben zu gewünschten Ausgaben verleiten. In den Experimenten äußerte sich das etwa in gezieltem Unsinn oder Kauderwelsch. Übertragen auf reale Szenarien könnten so jedoch auch verzerrte politische Informationen, manipulierte Antworten oder das Umgehen von Sicherheitsregeln ausgelöst werden.
Wie erfolgreich russische Netzwerke wie Pravda damit bereits sind, lässt sich nicht abschließend beurteilen. Untersuchungen des American Sunlight Project und der Faktencheck-Organisation NewsGuard zeigen jedoch, dass einzelne KI-Modelle bereits Narrative dieses Netzwerks reproduzieren. Das deutet darauf hin, dass zumindest Teile der Strategie Wirkung entfalten.
Für Nina Jankowicz ist daher Aufklärung entscheidend. KI-Chatbots seien keineswegs neutrale oder unfehlbare Informationsquellen. „Sie können falsche Informationen ausgeben, halluzinieren und gezielt manipuliert werden – von Akteuren, die nicht informieren, sondern beeinflussen wollen“, warnt sie.
Der Fall zeigt, dass der Kampf gegen Desinformation eine neue Dimension erreicht hat. Es geht nicht mehr nur um die Beeinflussung von Meinungen, sondern um die langfristige Prägung digitaler Wissenssysteme. Für Politik, Forschung und KI-Entwickler stellt sich damit eine zentrale Frage: Wie lassen sich offene, lernfähige Systeme schützen, ohne ihren freien Zugang zu Informationen vollständig zu verlieren?
