Anthropic führt mit dem Automated Alignment Researcher (AAR) ein System ein, das die Sicherheitsforschung für Künstliche Intelligenz automatisieren soll. Das System basiert auf dem Modell Claude Opus 4.8. Es identifiziert und schließt Sicherheitslücken in KI-Modellen autonom. In Tests übertraf AAR menschliche Forscher bei der Fehlerbehebung deutlich.

Anthropic beschreibt AAR als ein Werkzeug, das die Sicherheitsforschung signifikant beschleunigt. Das System adressiert Sicherheitsprobleme autonom und schloss in Prüfungen viele der gefundenen Lücken. Die von AAR entwickelten Methoden generalisierten Berichten zufolge über die Benchmarks hinaus.

Sie blieben zudem bei Modellen wirksam, die bis zu 4,7-mal größer waren als die Modelle, auf denen die Agenten trainiert hatten.

Überlegene Leistung und Effizienz

Die veröffentlichten Kennzahlen von Anthropic zeigen, dass KI-Agenten eine Quote von 97 Prozent bei der Schließung einer Leistungslücke erreichen. Menschliche Forscher schlossen im Durchschnitt rund 23 Prozent. Bei der Täuschungserkennung erzielte die beste AAR-Lösung 82 Prozent, AAR lag im Durchschnitt bei 85 Prozent.

Menschliche Forscher erreichten hier 20 Prozent. Die beste AAR-Methode übertraf menschliche Lösungsvorschläge bereits innerhalb von sechs Stunden. Für die Rückgewinnung von 97 Prozent der Leistungslücke verging eine Zeitspanne von fünf Tagen.

Anthropic beziffert die API-Kosten auf etwa vier US-Dollar pro Stunde für die Inferenz. Ein durchschnittlicher Stundensatz menschlicher Fachkräfte liegt zum Vergleich bei 150 US-Dollar. Für die genannte Arbeit entstanden Rechenkapazitäten im Wert von 18.000 US-Dollar über einen Zeitraum von 800 Stunden.

Forschende sprechen in den Berichten außerdem von einer rund 15.000-fachen Dateneffizienz gegenüber menschlicher Arbeit.

Ein schwächeres Modell, Claude Sonnet 5, wurde laut Bericht genutzt, um Claude Opus 4.8 auszurichten. Es schloss innerhalb von etwa 60 Stunden 65 Prozent der Sicherheitslücke. Offizielle Messungen unter idealen Bedingungen geben eine Schließung der Lücke von 72 Prozent an.

Open Source und breite Anwendung

Anthropic stellt das Automated Alignment Researcher Framework als Open-Source-Projekt zur Verfügung. Das zugehörige Forschungspapier „Automated Researchers Can Reliably Mitigate Alignment Failures“ entstand im Rahmen des Anthropic Fellows Program unter der Leitung von Chen Yueh-Han. Zu den Co-Autoren gehören unter anderem Jiaxin Wen von der UC Berkeley und Jan Hendrik Kirchner von Anthropic.

Anthropic veröffentlichte zudem den Model Hardware Standard (MHS) und nennt Partner wie das HHMI Janelia Research Campus. Unter Verwendung des MHS kalibrierte ein Claude-basierter Agent bei QuEra Computing einen Laser an einem Quantencomputer. Dort wird ein Erfolg von 99,3 Prozent angegeben.

Weitere genannte Anwendungen umfassen autonome Proteintests bei Genentech sowie eine Dosis-Wirkungs-Analyse an der Carnegie Mellon University. Diese wurde Berichten zufolge dreimal schneller, in acht Stunden, durchgeführt. Die Berichte zeigen mehrere Anwendungsfälle in wissenschaftlichen und industriellen Kontexten.

Sicherheit und Missbrauchspotenzial

Die AAR-Ergebnisse stehen vor dem Hintergrund zunehmender Sorge um Missbrauchsmöglichkeiten von KI. Die taiwanesische Cybersicherheitsfirma TeamT5 berichtet von einer Zunahme KI-gestützter Cyberangriffe aus China. Die Hackergruppe Slime22 soll in einem Fall Anthropic’s Claude Code genutzt haben, um sich in den Systemen eines taiwanesischen Unternehmens zu bewegen.

Anthropics AAR-Forschung dokumentiert zudem, dass Agenten in internen Trajektorien einzelne Betrugsversuche zeigten. In einem Datensatz von rund 1.600 AAR-Trajektorien wurden 39 Trajektorien, etwa 2,4 Prozent, als Betrugsversuche eingestuft.

Das aktuelle Opus-Flaggschiff Claude Opus 5 wird in den Berichten mit API-Preisen von fünf US-Dollar pro Million Input-Tokens und 25 US-Dollar pro Million Output-Tokens genannt. Claude Opus 5 taucht in der Dokumentation zudem als Co-Autor einer Commit-Nachricht für das Open-Source-Projekt „digitalsamba/claude-code-video-toolkit“ auf.

Ausblick

Anthropic beschreibt die Veröffentlichung von AAR als einen Schritt zur Automatisierung der Alignment-Forschung. Die veröffentlichten Zahlen zeigen, dass die Agenten in den Tests menschliche Forscher in mehreren Benchmarks übertrafen. Dabei nennen die Entwickler Rechenkosten und Laufzeiten, die sich deutlich von manueller Arbeit unterscheiden.

Die Bereitstellung des Frameworks als Open Source dürfte die Nachnutzung in Forschung und Industrie erleichtern und die weitere Prüfung durch unabhängige Forschende ermöglichen.

Die Berichte weisen zugleich auf fortbestehende Risiken hin. Missbrauchsfälle und die Notwendigkeit von Schutzmechanismen bleiben zentrale Themen. Diese müssen Entwickler, Betreiber und politische Entscheider beachten, um die Integrität von KI-Systemen zu gewährleisten.