Der Vormarsch künstlicher Intelligenz in den Führungsetagen führt zu einem Governance-Dilemma für Unternehmen. Fast vier von fünf deutschen Führungskräften (78 Prozent) befürchten, die Kontrolle über Entscheidungen im eigenen Verantwortungsbereich zu verlieren, wenn KI in operative Prozesse einfließt. Gleichzeitig delegieren Manager bestimmte Kernaufgaben bereits heute an Algorithmen, insbesondere im Personalbereich.

Autonomieangst trifft auf unregulierte Delegation

Eine Erhebung der Personalberatung Kienbaum und der Bildungsplattform ada Learning verdeutlicht dieses Spannungsfeld: 78 Prozent der deutschen Führungskräfte sehen die Gefahr, durch KI-Systeme die Kontrolle über Beschlüsse einzubüßen. Gleichwohl berichten 68 Prozent, dass KI-Systeme in ihrem Unternehmen bereits aktiv laufen. Weitere 32 Prozent planen den Einsatz.

Siebzig Prozent der Befragten verlassen sich bei der Risikobeurteilung lieber auf das eigene Urteil, und knapp 66 Prozent lehnen es ab, operative Risiken allein auf Basis von KI-Empfehlungen einzugehen.

In ausgeprägten Unsicherheitsphasen steigt die Bereitschaft jedoch deutlich, heikle Entscheidungen an Algorithmen abzutreten. Wie weit diese Delegation in der Praxis bereits reicht, zeigt eine Untersuchung des US-Dienstleisters Resume Builder unter mehr als 1.300 Führungskräften. Demnach nutzen 65 Prozent der Manager regelmäßig Werkzeuge wie ChatGPT (53 Prozent), Microsoft Copilot (29 Prozent) oder Google Gemini (16 Prozent).

Rund 25 Prozent der Befragten übertragen Personalentscheidungen bezüglich Gehaltsanpassungen, Beförderungen und Kündigungen voll automatisiert an KI-Systeme – ohne zwischengeschaltete menschliche Letztkontrolle. Zugleich verfügt lediglich ein Drittel der Führungskräfte über ein formales Training zum ethisch-rechtlichen Umgang mit diesen Technologien.

Kognitive Entlastung birgt neurobiologische Risiken

Neben organisatorischen Fragen rücken die mentalen Folgen der Automatisierung in den Fokus. Eine experimentelle Studie des MIT Media Lab mit dem Titel „Your Brain on ChatGPT“ untersuchte in einem EEG-Langzeitexperiment 54 Teilnehmende beim Verfassen komplexer Texte. Probanden, die zuvor KI-Unterstützung nutzten, zeigten nach Entzug dieser Hilfsmittel im Vergleich zu einer Kontrollgruppe eine verringerte neuronale Aktivität, geschwächte neuronale Vernetzung und schlechtere Erinnerungsleistungen bezüglich der erstellten Inhalte.

Das Paper liegt als Preprint vor und ist noch nicht peer-reviewed, womit die Generalisierbarkeit auf erfahrene Führungskräfte im Unternehmensalltag empirisch bisher nicht abschließend feststeht. Gleichwohl legt die Untersuchung nahe, dass die dauerhafte Verlagerung von Analyse- und Reflexionsprozessen an Algorithmen kognitive Einbußen begünstigt.

Haftungsillusion in den Vorstandsetagen

Die Kienbaum-ada-Erhebung legt zudem eine erhebliche Compliance-Lücke offen: 75 Prozent der Befragten konstatieren unklare Verantwortlichkeiten bei KI-gestützten Beschlüssen. 67 Prozent der Führungskräfte gehen davon aus, dass die Verantwortung für fehlerhafte Ergebnisse primär bei den Softwareentwicklern liegt.

Diese Annahme kollidiert mit den Vorgaben des EU AI Act. Die Verordnung stuft Systeme für die Personalführung oder für die Bewertung von Arbeitskräften als Hochrisikoanwendungen ein. Artikel 4 verlangt den Nachweis von KI-Kompetenz sowie eine wirksame menschliche Aufsicht.

Das anwendende Unternehmen trägt die volle Verantwortung für Organisations- und Aufsichtspflichten. Eine Verlagerung der Haftung auf Softwarehersteller bei internen Anwendungsfehlern schließt der Rechtsrahmen aus.

Regulatorischer Druck beendet das Governance-Vakuum

Auf internationaler Bühne warnen Tech-Manager wie Sam Altman von OpenAI und Dario Amodei von Anthropic regelmäßig vor technologischer Eigendynamik und Kontrollverlusten. Beobachter werten derartige Narrative indes auch als strategisches Framing, um Regulierung auf existenzielle Bedrohungen zu lenken und Haftungsfragen im Hier und Jetzt zu umgehen. Constanze Kurz vom Chaos Computer Club fasst die Dynamik prägnant zusammen: „Die Firmen, die diese generative KI anbieten, wollen sich vorwiegend lossprechen von der Verantwortung, die sie für ihre Produkte haben.“

Mit den greifenden Umsetzungsfristen des EU AI Acts wächst der Handlungsdruck auf Unternehmen. Aufsichtsräte und Compliance-Verantwortliche müssen verbindliche Kontrollmechanismen etablieren, die eine unregulierte Vollautomatisierung unterbinden. Verwässert die Grenze zwischen digitaler Assistenz und ungeprüfter Delegation, drohen Vorständen neben empfindlichen Bußgeldern substanzielle Führungsrisiken im Kerngeschäft.