Künstliche Intelligenz verändert soziale Netzwerke rasant – und stellt Plattformbetreiber vor immer größere Herausforderungen. Besonders KI-generierte Inhalte, Deepfakes und automatisiert erstellter Spam nehmen spürbar zu. TikTok reagiert nun mit einem umfangreichen Maßnahmenpaket: Neue Erkennungssysteme, Bildungsangebote und strengere Kontrollen sollen die Plattform sicherer und transparenter machen.
Nach Angaben des Unternehmens investiert TikTok verstärkt in den Kampf gegen KI-generierte Falschinformationen und automatisierte Spam-Inhalte. Im Mittelpunkt stehen dabei vor allem Profile, die mithilfe künstlicher Intelligenz massenhaft Videos produzieren und veröffentlichen. Solche Accounts können echte Content Creator verdrängen und die Verbreitung irreführender oder manipulierter Inhalte erheblich beschleunigen.
Allein in den ersten drei Monaten des Jahres entfernte TikTok nach eigenen Angaben mehr als 86 Millionen Fake-Accounts. In den kommenden Wochen sollen neue Erkennungssysteme eingeführt werden, die insbesondere Profile identifizieren, die automatisiert KI-Inhalte zu sensiblen Themen wie Politik, Nachrichten, Finanzen oder Gesundheit verbreiten.
Mehr Transparenz bei KI-Inhalten
Parallel dazu will TikTok die Kennzeichnung künstlich erzeugter Inhalte weiter ausbauen. Bereits seit zwei Jahren setzt die Plattform auf sogenannte Content Credentials, die mithilfe digitaler Wasserzeichen und technischer Metadaten anzeigen, ob ein Video ganz oder teilweise mit künstlicher Intelligenz erstellt wurde.
Nach Unternehmensangaben wurden auf diese Weise inzwischen mehr als drei Milliarden Videos als KI-generiert gekennzeichnet. Zusätzlich tritt TikTok dem Steuerungsgremium der Coalition for Content Provenance and Authenticity (C2PA) bei, einer internationalen Brancheninitiative, die einheitliche Standards für die Kennzeichnung digitaler Inhalte entwickeln möchte.
Nutzer sollen KI besser erkennen
Neben technischen Lösungen setzt TikTok verstärkt auf Medienkompetenz. Gemeinsam mit der Medienbildungsorganisation NAMLE und dem Deepfake-Experten Henry Ajder wurde ein Leitfaden entwickelt, der Nutzerinnen und Nutzern den verantwortungsvollen Umgang mit KI-Anwendungen vermitteln soll.
Darüber hinaus kündigt das Unternehmen einen neuen Bereich innerhalb der App an, in dem erklärt wird, wie sich KI-generierte Inhalte erkennen lassen und welche Risiken manipulierte Videos oder Deepfakes mit sich bringen. Bereits bestehende Kooperationen mit Organisationen wie NoFiltr oder der Raspberry Pi Foundation sollen ebenfalls weiter ausgebaut werden. Nach Angaben von TikTok wurden entsprechende Bildungsinhalte seit Ende 2025 mehr als 200 Millionen Mal aufgerufen.
Kritik bleibt bestehen
Trotz der neuen Maßnahmen steht TikTok weiterhin unter erheblichem Druck. Experten weisen seit Längerem darauf hin, dass KI-generierte Inhalte immer realistischer werden und technische Erkennungssysteme häufig mit der rasanten Entwicklung neuer KI-Modelle Schritt halten müssen. Gleichzeitig wächst die Sorge, dass Deepfakes zur Manipulation politischer Debatten, für Anlagebetrug oder zur Verbreitung medizinischer Falschinformationen genutzt werden könnten.
Auch die Plattform selbst sieht sich immer wieder dem Vorwurf ausgesetzt, problematische Inhalte nicht schnell genug zu entfernen oder ihre Empfehlungsalgorithmen zu wenig transparent zu gestalten. Ob die angekündigten Maßnahmen tatsächlich ausreichen, um KI-Spam wirksam einzudämmen, wird sich daher erst in den kommenden Monaten zeigen.
Nutzer erhalten mehr Kontrolle
Neben der Bekämpfung von Spam testet TikTok nach eigenen Angaben weitere Funktionen, mit denen Nutzer künftig selbst festlegen können, wie viele KI-generierte Inhalte in ihrem persönlichen Feed erscheinen sollen. Ziel sei es, den Anwendern mehr Kontrolle über die angezeigten Inhalte zu geben und gleichzeitig die Transparenz beim Einsatz künstlicher Intelligenz zu erhöhen.
Fazit: Mit Millionen gelöschten Fake-Accounts, Milliarden gekennzeichneten KI-Videos und neuen Erkennungssystemen verschärft TikTok seinen Kampf gegen KI-Spam deutlich. Gleichzeitig setzt das Unternehmen verstärkt auf Aufklärung und Transparenz. Ob die Maßnahmen ausreichen, um die wachsende Flut künstlich erzeugter Inhalte dauerhaft einzudämmen, bleibt jedoch abzuwarten.
