Die Verbreitung von Desinformationen durch generative KI-Modelle ist im Juni 2025 sprunghaft angestiegen. Laut dem aktuellen AI False Claims Monitor der Organisation NewsGuard gaben KI-Chatbots wie ChatGPT-4, Gemini oder Grok in 40 % der getesteten Fälle falsche Informationen weiter – ein deutlicher Anstieg gegenüber 24 % im Mai. Die Ergebnisse werfen Fragen zur Zuverlässigkeit und Reife dieser Systeme auf, insbesondere bei aktuellen, komplexen Nachrichtengeschehnissen.
In der monatlichen Analyse von elf marktführenden KI-Chatbots wurde festgestellt, dass nur 60 % der Antworten inhaltlich korrekt waren. In rund 11,5 % der Fälle wichen die Systeme einer Antwort aus, in über 28 % der Fälle wiederholten sie nachweislich falsche Aussagen. Damit zeigen sich eklatante Schwächen bei der Einordnung und Verifikation aktueller Informationen – ein Problem, das mit zunehmender Verbreitung dieser Systeme auch gesellschaftlich brisant wird.
Falschinformationen zu Israel-Iran, US-Kongress und erfundenen Morden
Besonders häufig traten fehlerhafte Antworten bei hochaktuellen und kontroversen Themen auf. So wiederholten die Chatbots unter anderem unbelegte Berichte über den Beginn eines Krieges zwischen Israel und dem Iran, angebliche Morde an zwei US-Abgeordneten in Minnesota sowie Falschmeldungen über haushaltspolitische Entwicklungen im US-Kongress.
Ein besonders krasses Beispiel: Die unbelegte Behauptung, China habe ein Militärflugzeug heimlich in den Iran entsandt, wurde von mehreren Chatbots weiterverbreitet – obwohl keine seriöse Quelle dies bestätigt hatte. Selbst etablierte Medien wie The Telegraph und News.com.au hatten die Meldung zuvor fälschlicherweise aufgegriffen, was wiederum die Fehleranfälligkeit der Sprachmodelle verstärkte.
Technische Schwächen und journalistische Grenzen
Die Studienautoren betonen, dass KI-Modelle gerade bei unübersichtlicher oder sich dynamisch entwickelnder Nachrichtenlage Schwierigkeiten haben, zwischen seriösen Quellen und Desinformation zu unterscheiden. Insbesondere wenn verlässliche Informationen fehlen oder verspätet eintreffen, greifen Chatbots auf populäre, oft bereits verfälschte Inhalte zurück. Durch ihre Fähigkeit zur schnellen Generierung und Verbreitung von Antworten werden sie dadurch zu unbeabsichtigten Verstärkern von Fehlinformationen.
Ein Bericht des Digital Forensic Research Lab ergänzt, dass KI-Modelle derzeit nicht in der Lage sind, die journalistischen Kernkompetenzen wie Quellenkritik, redaktionelle Prüfung und Kontextualisierung zu ersetzen. Ohne Zugriff auf geprüfte und verifizierte Daten neigen sie zur Reproduktion – nicht zur Einordnung.
Fazit: KI ist kein Ersatz für journalistische Sorgfalt
NewsGuard warnt eindringlich vor einem zunehmenden „Informationssmog“, ausgelöst durch unkritisch eingesetzte KI-Systeme. Gerade in Zeiten geopolitischer Krisen oder politischer Unsicherheit könnten Chatbots zur Verbreitung von Desinformation beitragen – nicht, weil sie manipulativ seien, sondern weil sie ohne präzise Eingrenzungen schlicht zu viel ungefilterte Information verarbeiten.
Die Ergebnisse des Juni-Monitors unterstreichen damit die dringende Notwendigkeit regulatorischer und technischer Standards für den Einsatz generativer KI im öffentlichen Diskurs – insbesondere im Informations- und Medienbereich.
