Ein Präzedenzfall in der KI-Governance
Anthropic hat die Gewährung interner Berechtigungen an sechs Mitglieder von METR (Model Evaluation and Threat Research) angekündigt, einer unabhängigen gemeinnützigen Organisation. Diese Maßnahme, die als Zugang auf 'Mitarbeiterniveau' beschrieben wird, ermöglicht es externen Prüfern, innerhalb der Systeme des Unternehmens mit einer in der Branche beispiellosen Autonomie zu arbeiten.
Das erklärte Ziel besteht darin, die Lücke zwischen dem internen Verständnis der KI-Systeme und der Fähigkeit der Prüfer, diese zu verifizieren, zu schließen. Durch die Integration dieser Prüfer in den täglichen Betrieb strebt das Unternehmen an, sicherzustellen, dass Schlussfolgerungen zu Risiken, Vorfällen und operativen Praktiken auf direkter Beobachtung beruhen und nicht auf Berichten, die durch das Unternehmen selbst gefiltert oder eingeschränkt wurden.
Was der 'Zugang auf Mitarbeiterniveau' bedeutet
In der Praxis bedeutet dieser Zugang die Bereitstellung von Unternehmenshardware, physischem Platz in den Büros von Anthropic und Zugangsdaten für die internen Risiko-Evaluierungstools. Die METR-Forscher können mit den Modellen und den Agenten-Monitoring-Systemen auf dieselbe Weise interagieren wie ein interner Techniker des Sicherheitsteams.
Dieser Zugang ist jedoch nicht umfassend. Kundendaten, durch Berufsgeheimnis geschützte Informationen und die detaillierte technische Architektur der Modelle sind ausdrücklich ausgeschlossen. Diese Unterscheidung ist entscheidend, um Transparenz mit dem Schutz geistigen Eigentums und der Privatsphäre der Nutzer in Einklang zu bringen.
Umfang des METR gewährten Zugangs
Vergleich zwischen dem, worauf die Prüfer Zugriff haben, und dem, was eingeschränkt ist.
| Kategorie | Erlaubter Zugriff | Eingeschränkter Zugriff |
|---|---|---|
| Hardware und Büro | Ja (eigene Geräte und Platz) | N/A |
| Modelle und APIs | Ja (Ausführung und Evaluation) | N/A |
| Kundendaten | Nein | Vollständig ausgeschlossen |
| Modellarchitektur | Nein | Aus Vertraulichkeitsgründen ausgeschlossen |
Der Rahmen aus drei Audit-Stufen
Anthropic entwickelt ein gestaffeltes System für den Zugang anderer Prüfer. Die erste Stufe, auf der sich derzeit SecureBio befindet, umfasst Untersuchungen mit sehr begrenztem Umfang und erfordert eine vorherige Genehmigung für die Veröffentlichung. Die zweite Stufe gewährt mehr Informationen und erlaubt die Veröffentlichung ohne vorherige Genehmigung, vorbehaltlich spezifischer Streichungen, die der Prüfer öffentlich bestreiten kann.
METR operiert auf der dritten Stufe, der fortgeschrittensten. Diese Stufe kombiniert den vollständigen technischen Zugang (ähnlich dem eines Mitarbeiters) mit Veröffentlichungsrechten, die der zweiten Stufe entsprechen. Das Unternehmen hat angegeben, dass es mit anderen Organisationen wie Hugging Face und Faculty (einer Tochtergesellschaft von Accenture) in Gesprächen ist, um sie in dieses Schema zu integrieren, obwohl ihre aktuellen Rechte eingeschränkter sind.
Hierarchie des Zugangs für externe Prüfer
Prozess der Integration und Berechtigungen je nach Vertrauensstufe und Umfang.
- 01Stufe 1: Begrenzter Zugriff, Veröffentlichung unter Vorbehalt der vorherigen Genehmigung (z. B. SecureBio).
- 02Stufe 2: Erweiterte Zugriffe, freie Veröffentlichung mit der Möglichkeit, technische Zensur öffentlich zu bestreiten.
- 03Stufe 3: Zugriff auf Mitarbeiterniveau, unabhängige Veröffentlichung mit Zensur nur bei strikter Vertraulichkeit (METR).
Unabhängigkeit und Kontroversen
Obwohl METR sich als unabhängig definiert und keine direkte Finanzierung von den Labors erhält, die es prüft, gibt es Kritik an seiner Autonomie. Die Organisation beschäftigt Forscher, die aus Anthropic, OpenAI und DeepMind stammen, und wird größtenteils von Stiftungen finanziert, die mit der Bewegung des effektiven Altruismus verbunden sind, zu der Dario Amodei, CEO von Anthropic, familiäre und berufliche Bindungen hat.
Kritiker wie David Sacks haben darauf hingewiesen, dass diese Nähe die Objektivität der Audits beeinträchtigen könnte. METR hat jedoch betont, dass seine Methodik auf der wissenschaftlichen Bewertung autonomer Fähigkeiten beruht und dass seine Arbeit, wie die Überprüfung der Agenten-Monitoring-Systeme von Anthropic, echte Schwachstellen identifiziert hat, die das Unternehmen behoben hat.
Auswirkungen auf die Industrie und die Regulierung
Diese Initiative ist in den Vorschlag von Dario Amodei eingebettet, das Tempo der 'Frontier'-KI zu moderieren. Durch die Festlegung eines überprüfbaren Transparenzstandards strebt Anthropic an, die zukünftige Regulierung zu beeinflussen und argumentiert, dass die Labors die Verantwortung tragen müssen, die Sicherheit ihrer Modelle zu beweisen, bevor Regierungen Zwangsmaßnahmen verhängen.
Für den Rest der Industrie wirft dieser Schritt ein Dilemma auf: ein ähnliches Maß an Transparenz anzunehmen, um regulatorische Wettbewerbsfähigkeit zu wahren, oder die Kontrolle über technische Informationen zu behalten. Die Fähigkeit von METR, die von Anthropic auferlegten Zensuren öffentlich zu hinterfragen, fügt eine Ebene der Rechenschaftspflicht hinzu, die in den kommenden Jahren zu einem Standardanforderung für Frontier-Modelle werden könnte.
Offene Fragen
- Es ist nicht bestätigt, ob dieses Zugangsmodell in Kürze von anderen Labors wie OpenAI oder Google übernommen wird.
- Die tatsächliche Auswirkung der METR-Audits auf die Verringerung katastrophaler Risiken wurde noch nicht unabhängig quantifiziert.
- Es ist unklar, wie mögliche Diskrepanzen zwischen der Interpretation der 'Vertraulichkeit' durch Anthropic und der von METR in Grenzfällen gehandhabt werden.
Weiter entdecken
Verwendete Quellen
Korrekturen und Transparenz
Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.
Korrektur vorschlagen