Instagram schränkt die Reichweite von Profilen ein, die KI-generierte Personen darstellen, ohne diese zu kennzeichnen. Ab dem 31. August 2026 könnten derartige Konten in den Empfehlungen weniger sichtbar sein. Diese Maßnahme reagiert auf ein wachsendes Unbehagen unter Nutzern, die sich durch unkenntlich gemachte KI-Profile getäuscht fühlen.

Die neue Richtlinie betrifft Profile, deren dargestellte Person generiert oder wesentlich durch Künstliche Intelligenz erstellt wurde. Instagram benennt die bisherige „AI creator“-Kennzeichnung in „AI-generated profile“ um. Ziel ist es, Transparenz zu schaffen und Nutzern klarer zu zeigen, wann ein Profil eine KI-generierte Person darstellt.

Reichweitenbeschränkung bei Intransparenz

Profile, die eine KI-generierte Person zeigen, ohne die Kennzeichnung „AI-generated profile“ zu tragen, riskieren ab dem Stichtag Reichweitenbeschränkungen. Sie könnten aus den Empfehlungen von Instagram herausfallen, was ihre Sichtbarkeit auf der Plattform mindert. Für Ersteller, die ihre KI-Profile proaktiv kennzeichnen, ändert sich hingegen nichts an der Profilreichweite: Gekennzeichnete Profile bleiben empfehlungsfähig.

Instagram definiert ein „AI-generated profile“ als ein Konto, dessen dargestellte Person vollständig oder maßgeblich durch KI erzeugt wurde. Die Kennzeichnung ist nicht für jede Nutzung von KI gedacht, etwa für die Bearbeitung von Fotos, Texten oder Grafiken. Sie bezieht sich ausschließlich auf die Identität der dargestellten Person.

Ersteller können die Kennzeichnung durch Bearbeiten ihres Profils und Aktivieren der Option „AI-generated profile“ hinzufügen. Sollte ein Ersteller von Reichweitenbeschränkungen betroffen sein, kann er Einspruch einlegen. Bei einem erfolgreichen Einspruch wird das Profil wieder für Empfehlungen freigegeben.

Hintergrund der Verschärfung: Misstrauen und Täuschung

Die Maßnahme von Instagram reagiert auf die wachsende Problematik KI-generierter Influencer und die damit verbundene Unsicherheit bei Nutzern. Instagram äußert, dass Nutzer es missbilligen, wenn ein menschlich wirkendes Profil sich später als KI-generiert herausstellt. Es bestehe der Wunsch, zu wissen, wann eine dargestellte Person KI-generiert ist.

Die Notwendigkeit einer klaren Kennzeichnung untermauern mehrere Vorfälle. Eine Untersuchung der Fachpublikation Wired deckte ein Netzwerk von scheinbar KI-generierten männlichen Influencern auf der Dating-App Goose auf, die Nutzer auf Instagram ansprachen. Die New York Times berichtete zudem über Hunderte von KI-generierten Personen in sozialen Medien, die Ergänzungsmittel bewarben oder Gesundheitsaussagen machten.

Solche Fälle werfen ethische und gesundheitliche Fragen auf.

Metas Weg durch KI-Kontroversen

Instagram gehört zu Meta. Ein firmeneigenes KI-Tool zur Bildgenerierung geriet in die Kritik, weil es die Erzeugung von Bildern unter Verwendung des Aussehens anderer Personen ohne deren explizite Zustimmung erlaubte. Meta entfernte die Funktion daraufhin.

Parallel steht Meta im Zentrum eines Vergleichs mit 29 US-Bundesstaaten. Das Unternehmen hat sich auf Zahlungen von bis zu 16,68 Milliarden US-Dollar geeinigt, um einen Prozess wegen der Gefahren seiner sozialen Netzwerke für die psychische Gesundheit von Kindern und Jugendlichen abzuwenden. Der Vergleich sieht unter anderem ein standardmäßiges zweistündiges tägliches Nutzungslimit für Teenager auf Facebook und Instagram sowie einen „Nachtmodus“ vor, der Benachrichtigungen während der Schulzeit stummschaltet.

In den Anklagen ging es unter anderem um Vorwürfe, Plattformen gezielt süchtig machend zu gestalten und persönliche Daten von Kindern zum Training von KI-Modellen verwendet zu haben. Meta wies die Vorwürfe im Rahmen der Einigung zurück.

Breiterer Kontext: Geringes Vertrauen in KI und Gatekeeper-Rolle

Die neuen Richtlinien von Instagram sind Teil eines breiteren Diskurses zur Rolle und Glaubwürdigkeit von Künstlicher Intelligenz. Eine Studie zeigt, dass das Vertrauen der Öffentlichkeit in KI niedrig bleibt. Das Vertrauen in die Unternehmen, die KI entwickeln, ist noch geringer.

Befürchtungen betreffen Datennutzung, mangelnde Transparenz, Systemfehler und Auswirkungen auf der Arbeit und Informationsfluss.

Der Thinktank „Agora Digitale Transformation“ warnt, dass KI-Chatbots wie ChatGPT oder Gemini zu intransparenten Gatekeepern der öffentlichen Meinungsbildung werden könnten. Tests zeigen, dass Modelle wie ChatGPT täuschend echte Social-Media-Grafiken und Falschmeldungen im Design etablierter Medien erstellen können, während andere Modelle Falschinformationen blockieren. Vor diesem Hintergrund kann die Kennzeichnungspflicht auf Instagram zur Aufklärung der Nutzer beitragen.

Ausblick: Die Zukunft der Authentizität auf sozialen Plattformen

Die Einführung der verschärften Richtlinien auf Instagram ist ein weiterer Schritt in der Debatte um Authentizität und Transparenz von Inhalten. Creators, die weiterhin für Empfehlungen infrage kommen wollen, müssen die Kennzeichnung „AI-generated profile“ aktivieren. Wie sich die Maßnahmen auf Reichweite und Verhalten auf der Plattform auswirken, wird sich in den kommenden Monaten zeigen.

Marktexperten erwarten, dass dies den Druck auf andere soziale Netzwerke erhöht, ähnliche Transparenzmechanismen einzuführen. Analysten beobachten zudem, ob die strengeren Regeln die Akzeptanz von virtuellen Influencern langfristig beeinflussen.