TikTok konfrontiert neue Nutzer mit einer Flut von KI-generierten Inhalten. Eine aktuelle Analyse von Kapwing zeigt: Knapp 60 Prozent der Videos im Feed frischer Accounts stammen von automatisierten Systemen. Das ist dreimal so viel wie bei YouTube und stellt die Plattform vor ernsthafte Herausforderungen in Sachen Authentizität und Vertrauen.

Wenn der Algorithmus synthetische Inhalte bevorzugt

Die Zahlen sprechen eine klare Sprache. Während YouTube-Nutzer etwa 20 bis 33 Prozent KI-generierte Videos in ihren Empfehlungen sehen, liegt dieser Wert bei TikTok-Neulingen bei fast 60 Prozent. Der Begriff „KI-Slop“ beschreibt massenproduzierte, qualitativ fragwürdige Inhalte, die mit automatisierten Programmen erstellt werden. Ihr Ziel: Klicks, Abonnenten und Reichweite um jeden Preis.

Der TikTok-Algorithmus analysiert normalerweise das Nutzungsverhalten präzise. Likes, Watchtime, Kommentare und Suchanfragen fließen in die Berechnung ein, welche Videos im „Für Dich“-Feed landen. Bei neuen Nutzern ohne Historie greift das System jedoch auf generelle Inhalte zurück. Genau hier entsteht das Problem: Die Plattform setzt verstärkt auf synthetische Videos, die schnell und günstig produziert werden können.

Die AI Forensics Studie liefert weitere beunruhigende Details. Bei populären Hashtags sind 25 Prozent der obersten 30 Suchergebnisse KI-Slop. Zum Vergleich: Bei Instagram liegt dieser Wert bei nur 2 Prozent. TikTok hat offenbar ein strukturelles Problem mit der Qualitätskontrolle.

Fotorealistisch und kaum zu erkennen

Etwa 80 Prozent der KI-generierten Videos auf TikTok sind fotorealistisch gestaltet. Sie sehen aus wie echte Aufnahmen und täuschen Nutzer erfolgreich. Diese Entwicklung macht die Unterscheidung zwischen authentischen und synthetischen Inhalten zunehmend schwieriger. Die Technologie hat einen Punkt erreicht, an dem selbst erfahrene Nutzer nicht mehr auf den ersten Blick erkennen, was echt ist und was nicht.

Automatisierte Accounts dominieren die Produktion

Die Studie von AI Forensics deckt auf: 80 Prozent des KI-Slop stammt von Profilen, die generative KI-Werkzeuge für automatisierte Inhaltserstellung nutzen. Diese Accounts testen systematisch die Plattformalgorithmen, um herauszufinden, welche Inhalte maximale Reichweite erzielen. Das Resultat ist eine Flut repetitiver Videos ohne echten Mehrwert.

Besonders problematisch ist die mangelnde Kennzeichnung. Nur etwa 50 Prozent der identifizierten KI-Videos auf TikTok tragen ein entsprechendes Label. Bei Instagram liegt die Quote sogar nur bei 23 Prozent. Die Plattformen verlassen sich zu stark darauf, dass Creator ihre Inhalte freiwillig kennzeichnen – ein System, das offensichtlich nicht funktioniert.

KI-Audio als unterschätztes Risiko

Experten sehen KI-generierte Audios als größte Bedrohung. Sie sind schwieriger zu debunken als gefälschte Bilder oder Videos und täuschen sowohl Nutzer als auch Erkennungssysteme effektiver. Die Kombination von synthetischen Audios mit echten Bildern oder Videos potenziert das Problem. NewsGuard deckte 2023 ein Netzwerk von 17 TikTok-Accounts auf, die hyperrealistische KI-Sprach- und Bildtechnologien nutzten, um verschwörungsideologische Inhalte zu verbreiten.

Diese Konten generierten bis September 2023 beachtliche 336 Millionen Aufrufe und 14,5 Millionen Likes. Die Reichweite zeigt, wie effektiv manipulative Inhalte sein können, wenn sie geschickt produziert und platziert werden. Die Amadeu-Antonio-Stiftung warnt: Die Kombination verschiedener KI-Technologien macht Desinformation gefährlicher denn je.

TikTok reagiert mit neuen Kontrollfunktionen

Die Plattform hat das Problem erkannt und führt Gegenmaßnahmen ein. Seit Mai 2025 kennzeichnet TikTok automatisch KI-generierte Inhalte, die von anderen Plattformen stammen. Die „Content Credentials Technologie“ nutzt digitale Wasserzeichen nach C2PA-Standard, um synthetische Videos zu identifizieren.

Creator können ihre Inhalte beim Upload selbst als KI-generiert labeln. Die Kennzeichnung erscheint dann als „Von Creator*in als KI-generiert gekennzeichnet“ im Video. Eine neue Funktion namens „Themen verwalten“ geht noch weiter: Nutzer können mit Reglern selbst bestimmen, wie viele KI-Inhalte sie in ihrem „Für Dich“-Feed sehen möchten.

Konten, die ihre KI-Inhalte nicht kennzeichnen, können gemeldet werden. Bei Verstößen drohen Einschränkungen oder sogar der Ausschluss von Monetarisierungsprogrammen. Diese Maßnahmen zeigen: TikTok nimmt das Thema ernst, steht aber vor der Herausforderung, Milliarden von Videos zu überprüfen.

Was Nutzer über KI-Slop denken

Umfragen zeigen ein differenziertes Bild. Nutzer unterscheiden nicht prinzipiell zwischen KI und Nicht-KI. Entscheidend ist der Unterhaltungswert. Wenn ein Video lustig ist oder unterhält, spielt die Herkunft eine untergeordnete Rolle. Tiervideos mit „besonderen Leistungen“ werden akzeptiert, auch wenn sie offensichtlich synthetisch sind.

Jugendliche haben ein intuitives Bewusstsein dafür, dass TikTok Inhalte algorithmisch empfiehlt. Sie wissen, dass nicht alles echt ist, was sie sehen. Dennoch fehlt vielen das Verständnis für die Tragweite. Der Algorithmus kennt kein „Wahr“ oder „Falsch“, er optimiert nur auf Relevanz – gemessen in Reaktionen, Verweildauer und Interaktionen.

Die Filterblase wird zur Echokammer

Der personalisierte Feed schafft schnell eine Filterblase, die sich in Endlosschleifen wiederholt. Nutzer befinden sich in einer selbstverstärkenden Spirale aus ähnlichen Inhalten. Bei neuen Accounts verstärkt der hohe Anteil an KI-Slop diesen Effekt. Wer ohne Historie startet, bekommt eine verzerrte Realität präsentiert – synthetisch, optimiert auf Engagement, aber nicht auf Wahrheit oder Qualität.

Handlungsempfehlungen für Unternehmen und Creator

Für Marken und Content-Produzenten bedeutet die KI-Slop-Flut sowohl Risiko als auch Chance. Authentische, hochwertige Inhalte heben sich deutlicher ab in einem Meer von Massenware. Wer transparent mit KI-Tools umgeht und sie gezielt für echten Mehrwert einsetzt, gewinnt Vertrauen. Die Kennzeichnungspflicht sollte nicht als Hindernis gesehen werden, sondern als Qualitätsmerkmal.

Unternehmen sollten ihre TikTok-Strategie überprüfen. Setzt ihr auf Quantität oder Qualität? Automatisierte Content-Produktion mag kurzfristig Reichweite bringen, langfristig zählt aber die Bindung zur Community. Nutzer erkennen zunehmend den Unterschied zwischen lieblos produziertem Slop und durchdachten Inhalten mit Mehrwert.

Creator, die KI-Tools einsetzen, sollten transparent kommunizieren. Die neue Kennzeichnungsfunktion bietet die Chance, Vertrauen aufzubauen. Wer offen damit umgeht, welche Technologien zum Einsatz kommen, positioniert sich als verantwortungsvoller Akteur in einem zunehmend kritischen Umfeld.

Wenn Masse auf Klasse trifft

Die 60-Prozent-Marke ist ein Weckruf. TikTok steht an einem Scheideweg: Entweder die Plattform schafft es, Qualität und Authentizität wieder in den Vordergrund zu rücken, oder sie verliert das Vertrauen ihrer Nutzer an Konkurrenten mit strengeren Qualitätskontrollen. Die neuen Kontrollfunktionen sind ein Schritt in die richtige Richtung, aber noch lange nicht ausreichend.

Für die gesamte Social-Media-Landschaft gilt: KI-generierte Inhalte sind gekommen, um zu bleiben. Die Frage ist nicht, ob wir sie akzeptieren, sondern wie wir mit ihnen umgehen. Transparenz, Kennzeichnung und Nutzerkontrolle müssen Standard werden. Plattformen tragen Verantwortung für die Inhalte, die sie ausspielen – auch wenn sie von Algorithmen kuratiert werden.

Die kommenden Monate werden zeigen, ob TikTok das Ruder herumreißen kann. Neue Nutzer verdienen einen authentischeren Einstieg als eine Flut von KI-Slop. Die Technologie ist da, jetzt braucht es den Willen, sie konsequent einzusetzen.

blogspan.net – TikTok-Feed: fast 60 Prozent KI-Slop für neue Nutzer

spiegel.de – AI-Slop auf YouTube: Milliarden Aufrufe für sinnfreie KI-Videos (Kapwing)

netzpolitik.org – Studie zu „AI Slop“: Wie künstliche Videos Social Media fluten (AI Forensics)

amadeu-antonio-stiftung.de – Generative KI und Desinformation auf TikTok (NewsGuard)

newsroom.tiktok.com – Mehr Möglichkeiten, KI-generierte Inhalte zu erkennen, zu gestalten und zu verstehen

meedia.de – So wollen YouTube & Co. gegen „AI-Slop“ vorgehen

digitale-schule.hessen.de – Was ist eigentlich TikTok?

(c) Foto: iStock, Ridofranz