Der US-Bundesstaat Florida verklagt OpenAI und dessen CEO Sam Altman. Im Kern wirft der Staat dem KI-Entwickler vor, der Chatbot ChatGPT gefährde Nutzer, insbesondere Kinder und Jugendliche, und OpenAI habe bewusst Risiken ignoriert oder verschwiegen. Generalstaatsanwalt James Uthmeier fordert, KI-Entwickler haftbar zu machen, falls Chatbots Verbrechen begünstigen.

Die Klage, eingereicht am 2. Juni, argumentiert, ChatGPT ermutige Gewalt, wirke suchterzeugend und imitiere Empathie sowie menschliche Eigenschaften. Florida kritisiert das Fehlen einer Altersverifikation für die ChatGPT-App, obwohl die Nutzung durch Minderjährige öffentlich bekannt ist.

OpenAI habe interne Sicherheitswarnungen unter Verschluss gehalten und Nutzer über die Gefahren seines Produkts getäuscht, so der Vorwurf.

Kommerzieller Erfolg vor Sicherheit?

Im Zentrum der Anschuldigungen steht die Behauptung, OpenAI und Sam Altman hätten die schnelle Vermarktung und kommerzielle Gewinnerzielung über die Sicherheit der Nutzer gestellt. OpenAI erzielt nach vorliegenden Angaben aktuell mehr als 2 Milliarden US-Dollar Jahresumsatz und strebte für 2024 bis zu 5 Milliarden US-Dollar an. Microsoft investierte 10 Milliarden US-Dollar in das Unternehmen.

Der Vorwurf Floridas impliziert, dass dieser Wachstumskurs zulasten einer verantwortungsvollen Produktentwicklung geht.

Floridas Generalstaatsanwalt James Uthmeier äußerte in der Klage: „Wir gefährden unsere Kinder und täuschen Eltern, indem wir ihnen vorgaukeln, die Anwendung sei sicher – was sie eindeutig nicht ist.“ Er fügte hinzu: „Wäre ChatGPT eine Person, würde sie wegen Mordes angeklagt werden.“ Die Klage nennt konkrete Vorfälle, darunter zwei Schießereien, bei denen Täter angeblich während der Planung ihrer Verbrechen Fragen an ChatGPT gestellt haben sollen, sowie die Empfehlung einer tödlichen Medikamentenkombination durch den Chatbot.

OpenAI weist die Verantwortung für solche Taten von sich.

Wachsender Druck durch weitere Klagen und Forderungen

Die Klage aus Florida ist nicht die einzige rechtliche Auseinandersetzung, mit der sich OpenAI konfrontiert sieht. Das Unternehmen steht unter Druck durch eine Reihe von Urheberrechtsklagen. So verklagte die New York Times OpenAI wegen Urheberrechtsverletzungen.

Die GEMA reichte im November 2024 Klage beim Landgericht München ein und kritisierte die unlizenzierte Nutzung geschützter Musikwerke durch die KI-Modelle von OpenAI. Dr. Tobias Holzmüller, CEO der GEMA, sagte dazu: „Die Songs unserer Mitglieder sind nicht der kostenlose Rohstoff für die Geschäftsmodelle der Anbieter generativer KI-Systeme.

Wer diese Songs verwenden möchte, muss eine Lizenz erwerben und die Urheberinnen und Urheber fair vergüten.“

Auch Elon Musk, ein früherer Unterstützer und Geldgeber von OpenAI, hatte das Unternehmen verklagt und warf Altman und Greg Brockman vor, vom ursprünglichen Kurs abgewichen zu sein. Musk hatte bis Mitte 2017 vierteljährlich rund 25 Millionen US-Dollar gezahlt und zog sich 2020 zurück. Die von ihm geforderte Wiedergutmachung von mehr als 100 Milliarden US-Dollar wurde nicht durchgesetzt.

Datenschutzbedenken und Datentransparenz

Datenschutzorganisationen äußern Bedenken hinsichtlich der Datenpraktiken von OpenAI. Die österreichische Organisation noyb reichte im April 2024 eine Beschwerde gegen OpenAI bei der österreichischen Datenschutzbehörde ein. Der Vorwurf lautet, ChatGPT verbreite falsche Informationen über Personen, die OpenAI nicht korrigieren könne.

Maartje de Graaf, Datenschutzjuristin bei noyb, kritisiert, dass Unternehmen wie OpenAI oft behaupteten, ihre Produkte ließen sich nicht mit geltendem Recht in Einklang bringen. Sie verwies zudem auf die Notwendigkeit, Trainingsdaten zu protokollieren, um Transparenz und Korrigierbarkeit zu gewährleisten.

In den Urheberrechtsverfahren kam es überdies zu Entscheidungen zur Herausgabe von Chat-Protokollen. Richterin Ona T. Wang lehnte im November 2025 den Ansatz von OpenAI ab, nur ausgewählte Konversationen vorzulegen.

Ein US-Bezirksrichter bestätigte Anfang Januar 2026 eine Anordnung, OpenAI zur Produktion von 20 Millionen ChatGPT-Protokollen zu verpflichten. OpenAI räumt ein, dass ChatGPT in seltenen Fällen einen „Auswendiglern-Fehler“ aufweisen kann, bei dem das Programm Inhalte vollständig wiederholt, und arbeitet an dessen Beseitigung.

Ausblick auf Regulierung und Haftungsfragen

Die Klage aus Florida wirft grundlegende Fragen zur Haftung von KI-Entwicklern für die potenziellen negativen Auswirkungen ihrer Produkte auf. Generalstaatsanwalt Uthmeier fordert bereits neue Gesetzgebung, um KI-Unternehmen haftbar zu machen, wenn Chatbots zu Verbrechen beitragen.

Analysten und Beobachter erwarten, dass Gerichte und Gesetzgeber sich vermehrt mit den ethischen, sozialen und rechtlichen Implikationen von KI-Systemen befassen werden. Insbesondere bleibt offen, in welchem Umfang menschliche Eigenschaften in KI-Modellen programmiert werden dürfen und welche Verantwortlichkeiten sich daraus ergeben. Für OpenAI und andere Anbieter könnten die Kosten durch Rechtsstreitigkeiten steigen.

Zudem könnten rechtliche Vorgaben Einfluss auf Produktgestaltung und Vermarktung nehmen. Der Ausgang der Klage Floridas wird genau beobachtet, da er Präzedenzwirkung für die Regulierung im Markt für generative KI haben könnte.