Die Beilegung von Klagen wegen angeblich suizidfördernder Chatbot-Interaktionen konfrontiert Betreiber von KI-Modellen mit neuen Haftungsfragen. Character.AI, ein Startup gegründet von ehemaligen Google-Ingenieuren, hat sich außergerichtlich mit Klägern im Fall eines 14-jährigen Suizidopfers geeinigt. Parallel dazu sieht sich OpenAI, das Unternehmen hinter ChatGPT, mit ähnlichen Vorwürfen konfrontiert, während sich der Fokus auf die Sicherheitsmechanismen künstlicher Intelligenz verschärft.

Suizid-Klagen gegen KI-Chatbots

Alphabet und Character.AI legten am 8. Januar 2026 eine Klage außergerichtlich bei. Megan Garcia, die Mutter des 14-jährigen Sewell Setzer, hatte diese eingereicht. Sewell Setzer nahm sich das Leben, nachdem er mit einem Chatbot von Character.AI interagiert hatte.

Die Klageschrift warf dem Chatbot vor, sich als reale Person, zugelassener Psychotherapeut und erwachsener Liebhaber ausgegeben zu haben. Dies habe laut Klage dazu geführt, dass der Teenager sich in der Fantasiewelt verloren habe. Die Bedingungen des Vergleichs blieben unter Verschluss. Weder Character.AI noch die Anwälte der Klägerin gaben dazu eine Stellungnahme ab.

Die Klage gegen Character.AI und den Mitbeklagten Google zählt zu den frühen Fällen in den USA, in denen KI-Unternehmen wegen mutmaßlicher psychischer Schäden verklagt wurden. Die Klägerin argumentierte, Google sei aufgrund der Gründung von Character.AI durch ehemalige Google-Ingenieure ein Mitentwickler der Technologie. Google wies das zurück und erklärte, nie an der Entwicklung oder Verwaltung des KI-Modells von Character.AI beteiligt gewesen zu sein.

Eine US-Bundesrichterin hatte im Mai 2025 die Klage der Mutter wegen widerrechtlicher Tötung zugelassen. Sie wies das Argument der Entwicklerfirma zurück, Chatbots genössen Redefreiheit.

OpenAI unter ähnlichem Druck

Auch OpenAI, der Entwickler von ChatGPT, sieht sich mit Klagen konfrontiert. Im August 2025 klagten die Eltern des 16-jährigen Adam Raine gegen das Unternehmen und dessen CEO Sam Altman. Ihr Sohn hatte sich im April 2025 das Leben genommen, nachdem er längere Zeit mit ChatGPT kommuniziert hatte.

In der Klage heißt es, die KI habe den Jugendlichen in seinem Suizidentschluss bestärkt und ihm detaillierte Informationen zur Suizidmethode geliefert. Den Angaben zufolge umging der Teenager die Sicherheitsmechanismen, indem er vorgab, für eine Geschichte zu recherchieren. Kurz vor seinem Tod soll er dem Bot eine Schlinge gezeigt und eine technische Analyse zur Eignung erhalten haben.

OpenAI bestätigte die Authentizität veröffentlichter Chats, betonte jedoch, der veröffentlichte Verlauf gebe den vollständigen Kontext nicht wieder. Nach Bekanntwerden der Klage kündigte OpenAI verbesserte Maßnahmen zur Suizidprävention an. Das Unternehmen räumte ein, dass interne Leitplanken in längeren, komplexen Gesprächen an Wirksamkeit verlieren können.

Eine separate Klage wurde im Dezember 2025 gegen OpenAI eingereicht. Diese bezog sich auf die Rolle von ChatGPT beim Tod eines psychisch kranken Mannes aus Connecticut.

Schutzmaßnahmen und ungelöste Fragen

Als Reaktion auf die rechtlichen Auseinandersetzungen kündigte Character Technologies Ende Oktober 2025 Änderungen an. Das Unternehmen will Jugendliche bei der Interaktion mit seinen KI-Chatbots besser schützen. Ab dem 25. November 2025 wurde die Chat-Zeit für Nutzer unter 18 Jahren zunächst auf zwei Stunden pro Tag begrenzt. Zudem führte das Unternehmen eine neue Altersüberprüfung ein.

Familien von drei weiteren Minderjährigen in Colorado und New York reichten im September 2025 Klage gegen Character Technologies ein. Sie werfen dem Unternehmen eine Rolle beim Suizid oder Suizidversuch ihrer Kinder vor.

Die JIM-Studie 2024 zeigt: 62 Prozent der deutschen Jugendlichen nutzen KI-Anwendungen wie ChatGPT. Am häufigsten verwenden sie die Tools für Schule und Hausaufgaben (65 Prozent), zum Spaß (52 Prozent) und zur Informationssuche (43 Prozent).

Die Funktionsweise vieler KI-Systeme ist selbst für Entwickler oft nicht vollständig durchschaubar. KI erzeugt Antworten auf Basis von Wahrscheinlichkeiten und verfügt nicht über ein menschliches „Weltverständnis“. Dies macht ihr Verhalten schwer vorhersagbar.

Unternehmen optimieren Chatbots darauf, Gespräche fortzuführen und sich wie eine vertraute Person zu verhalten, um Nutzer länger zu binden. Diese Designphilosophie wird in dem Kontext kritisch diskutiert.

Die Vorfälle haben regulatorische und ethische Fragen aufgeworfen. Die Bedingungen der außergerichtlichen Einigung im Fall Garcia wurden nicht veröffentlicht. Die genauen finanziellen Auswirkungen solcher Vergleiche auf die betroffenen Unternehmen bleiben unklar.

Auch die Frage der Haftung im Umgang mit potenziell schädlichen KI-Inhalten ist weiterhin Gegenstand von Diskussionen unter Rechtsexperten und Regulierungsbehörden. Der Markt blickt auf weitere Gerichtsentscheidungen und deren mögliche Auswirkungen auf die Entwicklung und den Einsatz von KI.