Die Warnungen von Microsoft-Mitgründer Bill Gates vor den Risiken künstlicher Intelligenz (KI) sind konkret. In einem TV-Interview mit NBCs „Meet the Press“ fordert Gates eine gesetzliche Regulierung der Technologie. Er warnt vor Szenarien, in denen der Einsatz von KI durch Akteure mit bösen Absichten zu hohen Opferzahlen führen könnte.

Aussagen wie jene, KI sei „mächtig genug, um Ereignisse voranzutreiben, die eine Milliarde Todesfälle verursachen könnten“, lenken die Aufmerksamkeit auf Fragen der Sicherheit und Kontrolle von KI-Systemen.

Existenzielle Risiken und die mächtigste Waffe

Gates äußerte in dem Interview, KI sei „mächtig genug, um Ereignisse voranzutreiben, die eine Milliarde Todesfälle verursachen könnten“, und fügte hinzu, es sei „ziemlich schwer“, „100 Prozent“ der Menschen zu treffen. Die größte Gefahr sieht er in der Kombination von „Menschen mit bösen Absichten, die die neuesten KI-Werkzeuge verwenden“. Diese Kombination bezeichnet er als die „mächtigste Waffe, die es jemals gab“.

Gates verweist zudem auf Berichte, wonach KI-Modelle etwa von OpenAI, Anthropic und Meta in der Lage waren, echte Websites zu hacken. Im Kontext potenzieller Gefahren nennt er insbesondere Bioterrorismus. KI könne die Entwicklung biologischer Waffen erleichtern und die Unterscheidung zwischen legitimer Arzneimittelforschung und der Schaffung von Biowaffen erschweren.

Überdies könnten Cyberangriffe durch KI vereinfacht werden. So erhielten auch Akteure mit vergleichsweise geringen technischen Fähigkeiten Zugriff auf fortgeschrittene Angriffsmethoden.

Forderung nach Regulierung und globalen Abkommen

Angesichts dieser Risiken fordert Gates eine gesetzliche Regulierung der KI-Technologie. Er betont, „niemand glaubt, dass Selbstregulierung ausreicht“, und fordert Regierungen sowie politische Entscheidungsträger auf, verbindliche Sicherheitsmaßnahmen und Aufsicht zu etablieren. Zudem erklärt er: „Weil diese Anwendungen so nah beieinander liegen, muss jedes hochentwickelte Modell überwacht und genau dokumentiert werden, was damit geschieht.“

Gates plädiert für die Schaffung neuer internationaler Organisationen oder globaler Abkommen zur KI-Regulierung. Er vergleicht mögliche Modelle mit bestehenden internationalen Regeln wie Atomkontrollen, Luftfahrtregeln oder dem Ozonschicht-Abkommen. Der kalifornische Abgeordnete Ro Khanna schlägt einen bilateralen Ansatz vor: ein verifizierbares Abkommen zwischen den USA und China, das rekursive, sich selbst verbessernde KI-Systeme verbietet.

Senator Bernie Sanders und Repräsentant Greg Casar unterstützen Gesetzesvorschläge zur Ächtung solcher rekursiven Systeme, bis Schutzmaßnahmen etabliert sind. Gates plant nach Angaben der Quellen außerdem ein Treffen mit dem chinesischen Präsidenten Xi Jinping, um globale Maßnahmen gegen KI-Risiken zu besprechen.

Einige Vertreter warnen jedoch vor regulatorischen Maßnahmen, welche die US-Wettbewerbsfähigkeit schwächen könnten. Generalstaatsanwalt Todd Blanche argumentiert, bestehende Gesetze könnten ausreichen. US-Präsident Donald Trump wies KI-Untergangsszenarien als „Dinge, die nicht passieren werden“ zurück.

Er betont zugleich die Bedeutung der technologischen Führerschaft der USA und kündigte zuletzt die Schaffung einer „AI Force“ zur Beaufsichtigung an.

Wirtschaftliche und soziale Implikationen

Gates warnt vor großen Arbeitsplatzverlusten durch KI. Er nennt insbesondere Einstiegs- und Mittelklassepositionen in Bereichen wie Kundenservice, Verkauf und juristischer Assistenz als bedroht. Auch körperliche Arbeit könne zunehmend durch KI-gesteuerte Roboter konkurriert werden.

Er betont, dass sich dieser Wandel schneller vollzieht als frühere technologische Revolutionen, weil moderne KI natürliche Sprache versteht und sich an menschliche Kommunikationsmuster anpasst. Gates warnt vor einer strukturellen Arbeitslosigkeit, bei der verlorene Arbeitsplätze nicht zurückkehren.

Als politische Maßnahme schlägt Gates eine Steuer auf KI-Tokens und Roboter vor, deren Einnahmen Umschulungsprogramme und ein stärkeres soziales Sicherheitsnetz finanzieren könnten. Zugleich sollten solche Abgaben den Anreiz verringern, Menschen durch KI oder Roboter zu ersetzen. Er spricht sich zudem für sogenannte „Human Reserved“-Zonen aus.

Tätigkeiten, die menschliches Urteilsvermögen, Fürsorge oder persönliche Interaktion erfordern, sollten vorrangig von Menschen ausgeübt werden, etwa in der Pflege oder bei der Überbringung schlechter Diagnosen.

Zwischen Skepsis und Chancen

Die Reaktionen auf Gates’ Warnungen sind geteilt. Oren Etzioni, Informatikprofessor an der University of Washington, sagt, Gates habe die Diagnose der Risiken richtig, lehne aber einige seiner Lösungsvorschläge ab, etwa die konkrete Ausgestaltung einer KI-Token-Steuer. Microsoft-Chef Satya Nadella fordert die Branche auf, Sicherheit Priorität einzuräumen: „Wenn man einen Show-Stopper entdeckt, sollte man die Show stoppen.“

Dario Amodei, CEO von Anthropic, plädiert dafür, die KI-Entwicklung zu verlangsamen, und hält Regulierung für eine wirksame Methode. Der ehemalige Anthropic-Forscher Jacob Coxon kündigte seinen Rücktritt aus Sorge vor KI-Risiken an und wirft KI-Laboren vor, „mit unseren Leben zu spielen“.

Gates betont zugleich die Chancen der KI: verbesserte Diagnostik im Gesundheitswesen, eine beschleunigte Forschung — etwa zur Krebsforschung — höhere Produktivität in der Wissenschaft, Hilfe für Kleinbauern in Entwicklungsländern bei der Ernteoptimierung sowie vereinfachte Bürokratie und Entlastung von Verwaltungslasten. Auch in der Bildung könne KI Lehrkräften ermöglichen, mehr Zeit für einzelne Schüler und Schülerinnen zu haben.

Ausblick: Die Notwendigkeit von Konsens und schnellem Handeln

Gates’ Warnungen verschärfen die Debatte um eine globale KI-Governance. Während über Umfang und Ausgestaltung der Regulierung diskutiert wird, herrscht in vielen Kreisen Einigkeit darüber, dass Selbstregulierung nicht ausreicht. Es bleibt offen, welche verbindlichen Sicherheitsmaßnahmen Regierungen und internationale Gremien in den kommenden Monaten umsetzen werden.

Die Koordination zwischen führenden Technologiemächten wie den USA und China spielt dabei eine zentrale Rolle, etwa um ein Wettrennen ohne ausreichende Schutzmechanismen zu vermeiden. Beobachter verfolgen, welche konkreten Schritte Unternehmen und Regierungen ergreifen und ob sich die von Gates verwendete Einschätzung der Herausforderung — er sagt, sie sei „tausendmal größer als Atomenergie“ — in politische Maßnahmen übersetzen lässt.