Die Allianz warnt vor systemischen Risiken durch Künstliche Intelligenz, die große Schäden verursachen können, welche „nicht vollständig versichert werden können“. Dies erklärt Thomas Lillelund, Vorstandschef von Allianz Commercial. Lillelund fordert öffentlich-private Lösungen und Partnerschaften, um solche umfassenden Schäden zu bewältigen.

Zudem regt er eine Debatte über systemische KI-Risiken an.

Der Industrieversicherer Allianz Commercial, eine Sparte der Allianz SE, bringt damit das Thema in die öffentliche Debatte über die wirtschaftlichen Folgen des rasanten KI-Fortschritts. Gleichzeitig belegen Daten des Allianz Risikobarometers 2026, wie schnell die Wahrnehmung von KI-Risiken steigt.

KI-Risiken rücken vor

Das Allianz Risikobarometer 2026, im Januar veröffentlicht, basiert auf Befragungen von 3.338 Expertinnen und Experten aus 97 Ländern. Es weist einen deutlichen Sprung in der Risikowahrnehmung Künstlicher Intelligenz aus. KI steigt vom zehnten auf den zweiten Platz der globalen Geschäftsrisiken.

Damit liegt KI nur noch hinter der Cyberkriminalität, die weiterhin an erster Stelle steht. 32 Prozent der befragten Fachleute sehen KI als ernsthaftes Unternehmensrisiko.

Dieser Anstieg ist der stärkste innerhalb der Rangliste. In Deutschland rangiert KI auf Platz vier, in der Schweiz auf Platz zwei und in Österreich auf Platz eins. Michael Furtscheller, regionaler Geschäftsleiter für Deutschland und die Schweiz bei Allianz Commercial, beschreibt KI als ein „immer schneller voranschreitendes Risiko“, das „vielleicht auch Fluch und Segen“ zugleich darstellt.

Konkrete Bedrohungen und ihre Tragweite

Allianz-Manager identifizieren mehrere konkrete Risikofelder, die durch KI entstehen oder verstärkt werden. Ein zentrales Problem stellen sogenannte Blackbox-Effekte dar. Alexandra Braun von Allianz Commercial warnt, „die KI per Definition arbeitet mit einem gewissen Grad an Autonomie und deswegen können die Ergebnisse falsch oder frei erfunden sein“.

Falsche oder diskriminierende KI-Ergebnisse können zu Rechtsstreitigkeiten, negativer Presseberichterstattung sowie Reputations- und Imageverlusten für Unternehmen führen.

Zudem nutzen Cyberkriminelle zunehmend KI zur Perfektionierung ihrer Angriffe. Michael Daum, Leiter der Cyberschaden-Bearbeitung bei Allianz Commercial, erläutert den Einsatz von KI-Techniken durch Cybertäter: „Durch Schreiben von sehr zugeschnittenen E-Mails, dass man dort klicken oder sonst etwas tun soll, sei es mit Clonings oder der Generierung von Sprache, oder sogar der Fälschung von Videos.“ Zugleich betont er: „Die große Mehrzahl der Angriffe, die wir sehen, erfordert nach wie vor das Zutun eines Menschen – in der Regel eines Mitarbeiters – den Angriff zu ermöglichen.“

Neben dem Missbrauch durch Kriminelle stehen Haftungsfragen im Raum. Es ist oft unklar, wer verantwortlich ist, wenn KI-generierte Ergebnisse Schäden verursachen. Auch urheberrechtliche Fragen, etwa dass KI geschützte Informationen abschreibt oder verwendet, gelten als wachsendes Risiko.

Regulatorische Lücke und Governance-Herausforderungen

Ein grundlegendes Problem, das Ludovic Subran, Chefökonom der Allianz, hervorhebt, ist die Diskrepanz zwischen der Geschwindigkeit der KI-Einführung und der Entwicklung von Governance, Regulierung und Unternehmenskultur. „In vielen Fällen schreitet die Einführung schneller voran, als Governance, Regulierung und Unternehmenskultur mithalten können“, konstatiert Subran. Dieser Umstand verstärkt Unsicherheiten bei der Steuerung und Absicherung von KI-Risiken.

Die BaFin (Bundesanstalt für Finanzdienstleistungsaufsicht) will ihren Fokus auf den KI-Einsatz bei großen Versicherungs- und Geldhäusern wie der Allianz intensivieren. BaFin-Präsident Mark Branson sagte: „Die Menschen müssen sich darauf verlassen können, dass ihre Grundrechte beim Einsatz von KI geschützt werden. Die BaFin wird zum Beispiel dafür sorgen, dass alle einen fairen Zugang zu Finanzdienstleistungen haben und niemand durch KI diskriminiert wird.“

Jens Obermöller von der BaFin erklärte, die Behörde werde stichprobenhaft KI-Anwendungen prüfen, „um Transparenzpflichten und Regelungen zu verbotenen KI-Praktiken zu überwachen“. Zudem werde geprüft, „ob die Unternehmen Maßnahmen ergreifen, um die KI-Kompetenz ihrer Mitarbeiterinnen und Mitarbeiter zu fördern“.

Parallelen zum Klimawandel und Allianz’ Ansatz

Die Diskussion um die Unversicherbarkeit potenzieller KI-Großschäden vergleicht man in der Allianz-Belegschaft mit der Debatte um Klimarisiken. Günther Thallinger, Allianz-Vorstand, zieht Parallelen: Bei extremen Wetterereignissen könnten ganze Regionen unversicherbar werden. „Wenn Versicherungen nicht mehr verfügbar sind, werden auch andere Finanzdienstleistungen unzugänglich.

Ein Haus, das nicht versichert werden kann, kann nicht mit einer Hypothek belastet werden“, schreibt Thallinger. Er argumentiert, dass Prävention – konkret das Verhindern weiterer Emissionsanstiege – der zentrale Weg sei, um systemische Klimarisiken zu mindern.

Die Allianz hat interne Strategien entwickelt, um mit den Herausforderungen von KI umzugehen. Konzernweit sind mehr als 900 KI-Anwendungsfälle registriert, die darauf abzielen, Prozesse zu analysieren, zu automatisieren und Kundenservice zu personalisieren. Bereits vor den Vorgaben des EU-AI-Acts hat die Allianz nach Unternehmensangaben Grundsätze für verantwortungsvolle KI eingeführt.

Philipp Raether, Chief Privacy & AI Trust Officer bei der Allianz, betont, verantwortungsvolle KI bedeute nicht nur Innovation zu ermöglichen. Es erfordere auch, bei bestimmten Anwendungen bewusst „Nein“ zu sagen. Die Allianz schließt demnach KI-Systeme aus, die strukturell Vertrauen untergraben würden.

Dazu gehören Social Scoring von Personen oder manipulative KI-Anwendungen. Konzernweit wurden acht übergeordnete Prinzipien definiert, darunter Transparenz, Verantwortlichkeit, Nichtdiskriminierung und menschliche Aufsicht (Human-in-the-Loop).

Ausblick auf Regulierung und Marktentwicklung

Thomas Lillelunds Forderung nach öffentlich-privaten Lösungen spiegelt die Einschätzung wider, dass einige KI-Risiken die Kapazitäten einzelner Akteure übersteigen können. Die BaFin stützt ihre erweiterten Prüfkompetenzen auf europäische Rechtsgrundlagen. Debatten über Haftungsfragen, Transparenzpflichten und Risikomanagement für KI-Anwendungen laufen bereits und sind Teil der aktuellen öffentlichen und regulatorischen Diskussionen.

Marktbeobachter erwarten, dass die Ausgestaltung und Implementierung dieser Rahmenbedingungen maßgeblich beeinflussen wird, wie Unternehmen künftig mit KI-Technologien umgehen und welche Geschäftsmodelle sich entwickeln können. Die Versicherungswirtschaft steht vor der Herausforderung, adäquate Produkte und Risikomodelle für diese neuen Bedrohungen zu entwickeln, was voraussichtlich zu einer Neukalibrierung von Prämien und Deckungssummen führen wird.