Eine Debatte ist noch keine Entscheidung des Sicherheitsrats
Sam Altman, der CEO von OpenAI, und Dario Amodei, der CEO von Anthropic, nahmen an einer Sitzung des Sicherheitsrats der Vereinten Nationen zu künstlicher Intelligenz und ihren Auswirkungen auf die internationale Sicherheit teil. Den vorliegenden Quellen zufolge fand das Treffen im Umfeld der UN-Generalversammlung statt. Frankreich organisierte die Sitzung während seines rotierenden Vorsitzes im Sicherheitsrat. Als weitere Teilnehmer werden Yoshua Bengio und Clément Delangue genannt.
Anlass für die Auftritte der Unternehmenschefs war die Frage, wie sich auf die Risiken leistungsfähigerer KI-Systeme reagieren lässt. Dazu gehört die Möglichkeit, dass eine rasante Entwicklung die menschliche Kontrolle erschwert. Die verfügbaren Berichte schildern Stellungnahmen und Appelle zur Zusammenarbeit. Sie sind nicht gleichzusetzen mit einer verabschiedeten Regel, einer verbindlichen Verpflichtung der Staaten oder einem formellen Beschluss des Sicherheitsrats.
Diese Unterscheidung ist wichtig: Eine Informationssitzung kann ein Thema international sichtbar machen und den Mitgliedern ermöglichen, Fachleute und Unternehmensverantwortliche anzuhören. Daraus folgt jedoch nicht automatisch, dass das Gremium Maßnahmen beschlossen hat. In den bereitgestellten Informationen findet sich weder eine Resolution noch ein Verhandlungsfahrplan oder ein bei dem Treffen vereinbarter internationaler Aufsichtsmechanismus.
Sam Altmans Ansatz: Koordination und menschliche Kontrolle
In seinen Ausführungen vor dem Sicherheitsrat sprach Altman über KI-Sicherheit, die Notwendigkeit menschlicher Kontrolle und internationale Zusammenarbeit. Auf der OpenAI-Seite werden seine Worte als vor dem Rat gehaltene Stellungnahme veröffentlicht. Ein späterer Bericht der Nachrichtenagentur EFE fasste seinen Appell als Aufforderung zusammen, Technologieunternehmen durch aufeinander abgestimmte nationale und globale Standards Orientierung zu geben.
Der Kerngedanke, der sich aus diesen Quellen ergibt, lautet: Die Herausforderung lässt sich nicht auf ein einzelnes Unternehmen oder eine einzelne Rechtsordnung beschränken. Wenn die Fähigkeiten von Systemen rasch zunehmen, reichen die Sicherheitsregeln und -praktiken eines einzelnen Landes möglicherweise nicht aus, um grenzüberschreitende Risiken anzugehen. Zusammenarbeit könnte in diesem Ansatz dazu beitragen, gemeinsame Erwartungen zu koordinieren und zu verhindern, dass Kontrollen allein von isolierten Entscheidungen abhängen.
Das ist nicht dasselbe wie ein detaillierter Vorschlag für einen Vertrag. Die bereitgestellten Informationen nennen weder einen konkreten Regelungstext noch eine Stelle, die ein Kontrollsystem verwalten würde, noch mögliche Sanktionen. Ohne die vollständige Stellungnahme lässt sich Altman auch kein konkretes Konzept für Lizenzen, Inspektionen oder verpflichtende Grenzen zuschreiben. Es empfiehlt sich, den in den Quellen belegten allgemeinen Grundsatz der Zusammenarbeit von den nicht beschriebenen Instrumenten zu unterscheiden.
Von Grundsätzen zu Instrumenten: Was dokumentiert ist
Die Tabelle trennt die von den Quellen zusammengefassten Aussagen von den offenen Fragen. Nicht dokumentierte Vorschläge werden nicht als vereinbart dargestellt.
| Thema | Was die Quellen beschreiben | Was nicht festgelegt ist |
|---|---|---|
| Zusammenarbeit | Altman sprach sich für internationale Koordination sowie ergänzende nationale und globale Standards aus. | Es wird weder ein unterzeichnetes Abkommen noch eine neu geschaffene internationale Struktur genannt. |
| Menschliche Kontrolle | Sicherheit und der Erhalt menschlicher Kontrolle waren Teil seiner Ausführungen. | Ein gemeinsames Protokoll oder eine für die Umsetzung zuständige Behörde wird nicht beschrieben. |
| Risiken fortgeschrittener Systeme | In der Debatte ging es um die Risiken zunehmender Fähigkeiten und die Schwierigkeit, solche Systeme zu kontrollieren. | Ein gemeinsamer technischer Schwellenwert, der Beschränkungen auslösen würde, wird nicht genannt. |
Dario Amodei: Gemeinsame Standards für grenzüberschreitende Risiken
Die verfügbaren Medienberichte schreiben Amodei ein ähnliches Argument zu: Die Risiken von KI lassen sich nicht vollständig von einem einzelnen Unternehmen oder einem einzelnen Land bewältigen. Sie beschreiben außerdem seine Forderung nach gemeinsamen globalen Standards, mit denen sowohl der Missbrauch solcher Systeme als auch das Risiko eines Kontrollverlusts bewertet werden könnten. Bloomberg Línea fasst die Positionen von Amodei und Altman so zusammen, dass beide für die Zusammenarbeit bei Standards eintraten. Hintergrund sei die Möglichkeit, dass KI-Systeme sich selbst verbessern und die menschlichen Fähigkeiten übertreffen könnten, sie zu kontrollieren.
Die Übereinstimmung, die sich anhand dieser Angaben feststellen lässt, ist allgemein, aber nicht zwingend umfassend: Beide sprachen sich für internationale Zusammenarbeit aus und dafür, Risiken leistungsfähigerer Systeme ernst zu nehmen. Die bereitgestellten Quellen enthalten keinen vollständigen Vergleich ihrer Stellungnahmen Punkt für Punkt. Daher lässt sich nicht schlussfolgern, dass sie einen gemeinsamen Plan vorgelegt, sich bei einer bestimmten Maßnahme widersprochen oder sich auf eine konkrete Politik verständigt hätten.
Wichtig ist auch, eine Warnung vor möglichen Risiken nicht mit der Behauptung zu verwechseln, diese Risiken hätten sich bereits verwirklicht. In den vorliegenden Zusammenfassungen ist von möglichen Kontrollverlustszenarien und Systemen mit zunehmenden Fähigkeiten die Rede. Sie belegen weder, dass eine KI die menschliche Kontrolle bereits überwunden hat, noch, dass ein wissenschaftlicher Konsens darüber besteht, wann dies geschehen könnte. Die Sitzung brachte diese Risiken zur Sprache, löste sie aber nicht.
Was vorgeschlagen wurde – und was nicht als Vereinbarung belegt ist
Zusammengenommen lassen sich die in der Berichterstattung genannten Vorschläge auf drei Gedanken bringen: die Zusammenarbeit zwischen Staaten zu stärken, international koordinierbare Sicherheitsstandards zu entwickeln und sowohl Missbrauch als auch Risiken im Zusammenhang mit einem Kontrollverlust zu berücksichtigen. Das sind Appelle, die das weitere Handeln und die Debatte orientieren sollen. Für sich genommen sind sie keine von Regierungen verabschiedeten Regeln.
Der Unterschied wird deutlich, wenn man drei Ebenen auseinanderhält. Erstens die Aussagen der Unternehmenschefs: Die Quelle von OpenAI veröffentlicht Altmans Ausführungen, während Medienberichte Amodeis Ansatz zusammenfassen. Zweitens die von den Medien beschriebenen politischen Vorschläge, also Zusammenarbeit und Standards. Drittens mögliche institutionelle Ergebnisse wie eine Resolution, ein Mandat, eine Organisation oder eine Verpflichtung der Regierungen. Das bereitgestellte Material erlaubt eine vorsichtige Darstellung der ersten beiden Ebenen, belegt aber kein Ergebnis der dritten.
Unter den verfügbaren Quellen findet sich auch ein Transkript der Sitzung. Die Beschreibung weist allerdings darauf hin, dass es automatisch erstellt wurde und kein offizielles Dokument oder Protokoll darstellt. Es kann daher hilfreich sein, um zu prüfen, wer gesprochen hat und welche Inhalte behandelt wurden. Wörtliche Zitate sollten dennoch nicht ohne Abgleich mit der Audio- oder Videoaufzeichnung wiedergegeben werden. Deshalb werden die Positionen in diesem Artikel zusammengefasst, statt nicht verifizierte Formulierungen als exakte Zitate auszugeben.
Ebenso fehlt eine ausreichende Grundlage, um die Idee, die Entwicklung zu bremsen oder zu verlangsamen, als präzise Politik zu interpretieren, die in der Sitzung vereinbart worden wäre. In der Berichterstattung vor dem Treffen ist von Debatten über eine mögliche Verlangsamung aus Sicherheitsgründen die Rede. Das beweist jedoch nicht, dass Altman und Amodei vor dem Rat ein Moratorium mit konkreten Bedingungen gefordert hätten. Für eine solche Aussage wären überprüfte Äußerungen sowie Angaben zu Umfang, Dauer und den verantwortlichen Akteuren erforderlich.
Aussagen von offiziellen Entscheidungen unterscheiden
Mit diesem Vorgehen lässt sich vermeiden, einen öffentlichen Vorschlag fälschlich als institutionelle Vereinbarung darzustellen.
- 01Feststellen, wer spricht und ob es sich um eine direkte Stellungnahme, ein Transkript oder eine journalistische Zusammenfassung handelt.
- 02Den vertretenen Grundsatz – etwa Zusammenarbeit oder gemeinsame Standards – vom vorgeschlagenen Mechanismus zur Umsetzung trennen.
- 03Nach Belegen für eine formelle Entscheidung suchen: einem verabschiedeten Text, einem Mandat, einer Verpflichtung der Regierungen oder einer neu geschaffenen Struktur.
- 04Dokumentieren die Quellen nur Äußerungen, den Appell wiedergeben und ausdrücklich klarstellen, dass keine Vereinbarung belegt ist.
Die Rolle der UNO und die Grenzen des verfügbaren Wissens
Der Sicherheitsrat ist ein zwischenstaatliches Gremium, dessen Mandat mit internationalem Frieden und internationaler Sicherheit verbunden ist. Die Sitzung kann dazu dienen, zu erörtern, ob bestimmte KI-Risiken Auswirkungen auf diesen Bereich haben, und Vertreter von Staaten, Fachleute und Unternehmen miteinander ins Gespräch zu bringen. Die Anwesenheit von Führungskräften aus der Technologiebranche macht deren Vorschläge jedoch nicht zu einer Politik der UNO: Entscheidungen liegen bei den Mitgliedern des Sicherheitsrats und richten sich nach den institutionellen Verfahren.
Die Sitzung ist außerdem Teil einer breiteren Debatte über internationale Koordination und Regulierung. Die UNO kann ein Forum bieten, in dem Einschätzungen ausgetauscht und mögliche Antworten erörtert werden. Die Regierungen behalten zugleich die Möglichkeit, nationale Maßnahmen zu beschließen und Abkommen auszuhandeln. Unternehmen können ihrerseits Praktiken oder Standards vorschlagen, ersetzen aber weder Staaten noch multilaterale Organe.
Die durch die Quellen bestätigte Bilanz ist daher begrenzt: Altman und Amodei brachten vor dem Sicherheitsrat Argumente für Zusammenarbeit und Sicherheitsstandards vor; in der Sitzung ging es um menschliche Kontrolle und mögliche Risiken leistungsfähiger Systeme. Aus dem bereitgestellten Material geht nicht hervor, dass sich die Staaten auf ein verbindliches Instrument verständigt, der Sicherheitsrat eine Verlangsamung der KI-Entwicklung angeordnet oder eine dauerhafte internationale Aufsicht eingerichtet hätte.
Die wichtigste Unsicherheit betrifft den Detailgrad der Stellungnahmen und die anschließenden institutionellen Schritte. Um diese Fragen zu klären, müssten die vollständigen Äußerungen abgeglichen und offizielle Unterlagen zu möglichen späteren Beschlüssen geprüft werden. Solange solche Belege fehlen, ist die sachlichste Einordnung: Es gab einen politischen Appell und eine internationale Debatte, aber kein nachgewiesenes neues globales KI-Sicherheitsregime.
Offene Fragen
- Das bereitgestellte Material ermöglicht keinen umfassenden Vergleich der vollständigen Stellungnahmen von Altman und Amodei und belegt keine konkreten Meinungsverschiedenheiten zwischen ihnen.
- Die Beschreibung des UN-Transkripts weist darauf hin, dass es automatisch erstellt wurde und nicht offiziell ist. Wörtliche Zitate sollten mit der Audio- oder Videoaufzeichnung abgeglichen werden.
- Es liegen keine Unterlagen vor, die eine aus der Sitzung hervorgegangene Resolution oder einen formellen Mechanismus bestätigen. Die Schlussfolgerung beschränkt sich darauf, dass die bereitgestellten Quellen solche Ergebnisse nicht dokumentieren.
- Quellen aus der Zeit vor dem Treffen erwähnen Debatten über eine Verlangsamung der Entwicklung. Sie erlauben jedoch nicht, den Auftritten vor dem Rat eine konkrete Forderung nach einem Moratorium zuzuschreiben.
Weiter entdecken
Verwendete Quellen
Korrekturen und Transparenz
Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.
Korrektur vorschlagen