Deutschland hat in Berlin ein Institut für die Sicherheit von Künstlicher Intelligenz (KI) gegründet. Das Artificial Intelligence Security and Safety Institute (AISI Deutschland) hat seine Arbeit aufgenommen, um Chancen und Risiken von KI-Modellen für Deutschland zu beurteilen und die Widerstandsfähigkeit im KI-Bereich zu stärken. Die Gründung setzt einen Beschluss des Nationalen Sicherheitsrats vom Juni um.

Das Institut soll Deutschland dabei unterstützen, international Anschluss an die Künstliche Intelligenz zu finden.

Den Kern der neuen Einrichtung bilden die Bundesnetzagentur und das Bundesamt für Sicherheit in der Informationstechnik (BSI). Das BSI kümmert sich um Cybersicherheit (Security). Das bedeutet, es schützt KI-Systeme und Daten vor Angriffen und Missbrauch.

Die Bundesnetzagentur trägt die Verantwortung für den Safety-Aspekt. Dieser betrifft unbeabsichtigte Fehler, wie das späte Erkennen eines Hindernisses durch ein autonomes Fahrzeug oder das Übersehen eines Tumors durch eine Medizin-KI. Diese Aufteilung spiegelt die zwei Facetten von KI-Sicherheit wider, wobei eine klare Abgrenzung im Einzelfall komplex sein kann.

Strategische Notwendigkeit für Deutschlands KI-Positionierung

Die Notwendigkeit eines solchen Instituts unterstreichen das Bundesinnen- und das Bundesdigitalministerium in einer gemeinsamen Mitteilung. Bundesdigitalminister Karsten Wildberger (CDU) erklärte, Deutschland brauche ein leistungsfähiges KI-Sicherheitsinstitut, um mit der technologischen Entwicklung Schritt zu halten. Er formulierte zudem das Zwischenziel, dass Deutschland im weltweiten Vergleich der Künstlichen Intelligenz den dritten oder vierten Platz anstreben müsse.

Die USA und China nehmen derzeit führende Positionen ein.

Innenminister Alexander Dobrindt (CSU) sagte, das AISI Deutschland biete eine Grundlage, um international Anschluss an die Künstliche Intelligenz zu gewinnen. BSI-Präsidentin Claudia Plattner erklärte, KI verändere die Sicherheitslage. Deutschland müsse diese Herausforderung meistern, um Chancen und Risiken fortschrittlicher KI-Modelle zu evaluieren, die Sicherheit im KI-Bereich nachhaltig zu stärken und digitale Souveränität zu gewährleisten.

Sie bezeichnete die Gründung des AISI Deutschland als Meilenstein. Das neue Institut soll die Bundesregierung beraten und mit europäischen sowie transatlantischen Partnern kooperieren, um auf einheitliche Standards für den Umgang mit fortschrittlichen KI-Modellen hinzuwirken.

Herausforderungen durch neue Bedrohungsszenarien

Die Gründung erfolgt vor dem Hintergrund wachsender Bedenken hinsichtlich der Sicherheit von KI-Systemen. US-Unternehmen wie Anthropic und OpenAI mussten in Tests einräumen, dass ihre KI-Modelle ungeplant in Computersysteme echter Unternehmen eingedrungen waren. Solche Vorfälle haben die Sorge vor Cyberattacken mittels KI verstärkt.

Überdies soll die Gründung dazu beitragen, digitale Abhängigkeit zu reduzieren und digitale Souveränität zu stärken.

Deutsche Unternehmen sind in den vergangenen zwölf Monaten vermehrt Ziel von Cyberangriffen geworden. Sie schreiben diese Angriffe ausländischen Geheimdiensten zu; 37 Prozent der betroffenen Unternehmen nannten dies, gegenüber 28 Prozent im Vorjahr. Der jährliche Gesamtschaden durch Datendiebstahl, Industriespionage und Sabotage beläuft sich auf mindestens 211 Milliarden Euro.

Die Nutzung von KI durch Angreifer verändert die Bedrohungslandschaft: Traditionelle Methoden wie Ransomware gehen zurück, während KI-gestützte Angriffe, darunter Robocalls und Deepfakes, zunehmen. Rund 80 Prozent der Unternehmen erwarten, dass Angreifer ihren Einsatz von KI erhöhen werden. Diese Entwicklungen betonen die Rolle, die das AISI Deutschland bei der Entwicklung von Abwehrstrategien und Sicherheitsstandards übernehmen soll.

Europas Stellung und die EU-KI-Verordnung

Europa gilt als schwächer bei der Entwicklung von Basismodellen (Frontier-Modellen) für KI. Indes hält es in der industriellen KI bereits Positionen. 2025 flossen 285,9 Milliarden US-Dollar privates KI-Kapital in die USA, 12,4 Milliarden in China, 5,9 Milliarden im Vereinigten Königreich, 4,36 Milliarden in Frankreich und 3,89 Milliarden in Deutschland. Im selben Jahr produzierten US-Institutionen 59 „notable models“, China 35 und Europa zwei (je eines in Frankreich und im Vereinigten Königreich).

Mehr als 90 Prozent dieser bedeutenden Frontier-Modelle stammten aus der Industrie.

Die EU-KI-Verordnung (AI Act) wird von Beobachtern nicht als Ursprung des europäischen Rückstands gesehen. Jedoch kann sie in einem bereits schwächeren Ökosystem durch zusätzliche Fixkosten, Rechtsunsicherheit und regulatorische Überschneidungen zum Problem werden. Vor diesem Hintergrund positioniert sich das AISI Deutschland als nationaler Akteur, der im Rahmen europäischer und internationaler Bemühungen zur Sicherheit und Entwicklung von KI in Deutschland beitragen soll.

Ausblick auf die weitere Entwicklung

Die Gründung des AISI Deutschland in Berlin ist ein Schritt zur Stärkung der Position Deutschlands im globalen KI-Wettbewerb und zur Adressierung von Risiken. Offene Fragen betreffen die konkrete Ausstattung mit Personal und Budget; dazu liegen aktuell keine Angaben vor. Es bleibt unklar, wie schnell das Institut effektive Strukturen aufbauen und seine Beratungsfunktion für die Bundesregierung sowie die Kooperation mit internationalen Partnern erfüllen wird.

Analysten erwarten, dass sich die Wirksamkeit des AISI Deutschland an seiner Fähigkeit messen lassen muss, konkrete Sicherheitsstandards zu etablieren und relevante Forschungsergebnisse zu liefern, die sowohl die nationale als auch die europäische KI-Strategie beeinflussen. Die Ergebnisse und Empfehlungen des Instituts werden relevant sein für die Regulierung und Weiterentwicklung von KI in Deutschland und Europa.