KI-Forschung automatisieren: Was bekannt ist und was noch ungeprüft bleibt

Die Warnung wird verbreitet – doch das Dokument zu ihrer Überprüfung fehlt

Die Vorstellung, dass KI-Systeme an der Entwicklung weiterer KI-Systeme mitwirken könnten, wirft wichtige Fragen zu Aufsicht, Bewertung und Kontrolle auf. Einem vorliegenden Quellenhinweis zufolge berichtet ABC über eine Forderung nach dringender Aufsicht über selbstlernende KI und warnt vor der Möglichkeit, die menschliche Kontrolle zu verlieren. Dieser Verweis ist jedoch eine journalistische Sekundärquelle: Er reicht nicht aus, um zu bestätigen, wer die Forderung erhoben hat, welchen Text diese Personen unterzeichnet haben, wann er veröffentlicht wurde oder wie genau er formuliert war.

Die zentrale Frage für diese Nachricht ist deshalb zweigeteilt. Einerseits gibt es eine Berichterstattung, die Aufsicht als Anliegen von Fachleuten darstellt. Andererseits liegt weder das Originaldokument noch eine Primärquelle vor, anhand derer sich die angebliche gemeinsame Erklärung überprüfen ließe. Mit den verfügbaren Informationen lassen sich weder die Zahl der Unterzeichner noch deren Zugehörigkeiten, die konkreten Empfehlungen oder die Frage bestätigen, ob alle dieselbe Formulierung des Risikos unterstützen.

Diese Unterscheidung ist wichtig, weil eine Überschrift in einem Nachrichtenbericht eine Position zusammenfassen, hervorheben oder einordnen kann; sie ersetzt nicht den unterzeichneten Text. Ebenso wenig lässt sich daraus schließen, dass Forschende nachgewiesen hätten, selbstlernende KI entziehe sich bereits der menschlichen Kontrolle. Die beschriebene Möglichkeit sollte als eine von einem Medium wiedergegebene Warnung behandelt werden, nicht als etablierter wissenschaftlicher Befund.

Teile der Forschung zu automatisieren bedeutet nicht, dass sich KI unbegrenzt selbst verbessert

Der Begriff „Automatisierung der KI-Forschung“ kann unterschiedliche Aufgaben umfassen: etwa beim Erforschen von Ideen zu helfen, Experimente auszuführen, Ergebnisse auszuwerten oder zur Entwicklung neuer Systeme beizutragen. Um festzustellen, was genau in der erwähnten Erklärung damit gemeint ist, müsste man deren Text einsehen; die bereitgestellten Quellen enthalten ihn nicht. Daher lässt sich den Verfassern weder eine bestimmte Definition zuschreiben noch behaupten, sie sprächen von einem vollständig autonomen System.

Eine institutionelle Seite von OpenAI beschreibt allerdings das Ziel, einen automatisierten Forscher unter menschlicher Aufsicht zu entwickeln. Das ist ein Beispiel für eine von einer Organisation erklärte Initiative: Sie sieht automatisierte Forschung unter Aufsicht vor, belegt aber nicht, dass dieses Ziel erreicht wurde, dass das System seine Fähigkeiten autonom verbessern kann oder dass es die Haltung aller Forschenden in diesem Bereich widerspiegelt.

Zudem muss zwischen teilweiser Automatisierung und einem rekursiven Verbesserungsprozess unterschieden werden. Dass ein Werkzeug an Forschungsaufgaben mitwirkt, beweist für sich genommen nicht, dass es ohne menschliches Eingreifen eine leistungsfähigere Version seiner selbst entwickeln und trainieren kann. Für eine solche Schlussfolgerung wären Daten zu den ausgeführten Aufgaben, zum Grad der Autonomie, zur menschlichen Beteiligung und zur Fähigkeit nötig, den Prozess zu wiederholen. Die verfügbaren Informationen enthalten für die beschriebene Erklärung keine solchen Messwerte.

Auf AlphaXiv wird eine Arbeit mit dem Titel „Messung der Automatisierung von KI-Forschung und -Entwicklung“ aufgeführt. Den bereitgestellten Angaben zufolge sind Umfang und Auswirkungen dieser Automatisierung weiterhin unklar; für eine Zusammenfassung ihrer Methoden, Ergebnisse oder Grenzen reichen die Informationen jedoch nicht aus. Die Existenz der Arbeit kann bei der Suche nach Belegen hilfreich sein, erlaubt aber keine spezifischeren Aussagen über ihre Schlussfolgerungen.

Aufsicht: Aus der wiedergegebenen Forderung geht nicht hervor, welche Maßnahmen vorgeschlagen werden

Der Bericht von ABC spricht von dringender Aufsicht über selbstlernende KI. Die verfügbaren Angaben nennen jedoch keinen Aufsichtsmechanismus und lassen nicht erkennen, ob die Forderung verbindliche Maßnahmen, Bewertungsverfahren, Transparenzanforderungen oder allgemeine Empfehlungen umfasst. Ohne Einsicht in das Original wäre es nicht sachgerecht, eine dieser Möglichkeiten als Bestandteil des Dokuments darzustellen.

Der Unterschied zwischen einem allgemeinen Aufruf zur Wachsamkeit und einem umsetzbaren Vorschlag ist wichtig. Eine konkrete Maßnahme benennt gewöhnlich, wer handeln soll, welche Systeme oder Tätigkeiten erfasst sind und wie die Einhaltung überprüft wird. Eine Warnung kann ein Risiko aufzeigen, ohne diese Fragen zu beantworten. Ohne den Primärtext lässt sich nicht feststellen, welcher Kategorie die vom Medium beschriebene Forderung zuzuordnen ist.

Die Europäische Kommission stellt einen institutionellen Überblick zum KI-Gesetz bereit. Diese Seite bietet allgemeinen regulatorischen Kontext. Aus den bereitgestellten Informationen geht aber weder hervor, dass das Gesetz eine spezielle Regel für die automatisierte Entwicklung von KI-Forschern enthält, noch dass es auf die erwähnte Erklärung zurückgeht. Sie sollte deshalb nicht als Beleg dafür dienen, dass die zugeschriebenen Empfehlungen bereits in einer Vorschrift verankert sind.

Plausible Risiken und Extremszenarien erfordern unterschiedliche Belege

Es ist sinnvoll zu untersuchen, ob die Automatisierung von Forschungsaufgaben die Geschwindigkeit oder den Umfang der KI-Entwicklung verändern kann. Diese Möglichkeit zu erörtern, beweist jedoch weder, dass bereits eine extreme Beschleunigung stattfindet, noch dass die menschliche Kontrolle unwiderruflich verloren gehen wird. Für Aussagen dieser Tragweite wären eindeutige empirische Belege erforderlich, außerdem eine Erklärung der Bedingungen, unter denen ein solches Szenario eintreten könnte.

Die bereitgestellten Quellen enthalten keine Ergebnisse, die eine durch automatisierte Systeme verursachte Beschleunigung quantifizieren. Ebenso wenig belegen sie, dass ein System autonom eine Folge immer leistungsfähigerer Systeme entwickelt hat. Die auf AlphaXiv identifizierte Arbeit befasst sich mit der Messung der Automatisierung von KI-Forschung und -Entwicklung. Laut der verfügbaren Notiz bleiben deren Umfang und Auswirkungen unklar. Das stützt eine vorsichtige Beschreibung der aktuellen Wissenslage, nicht aber eine Schlussfolgerung über einen unvermeidlichen Entwicklungsverlauf.

Risikobeschreibungen sollten daher den Personen zugeschrieben werden, die sie formulieren, und als Szenarien oder Warnungen gekennzeichnet werden, sofern sie hier nicht durch nachweisführende Ergebnisse gestützt sind. Vorsicht bedeutet nicht, solche Risiken abzutun. Sie bedeutet, sie von beobachteten Tatsachen zu unterscheiden und zu erklären, welche Belege fehlen, um ihre Wahrscheinlichkeit einzuschätzen.

Was für eine abschließende Überprüfung noch fehlt

Der redaktionelle Vorschlag wirft überprüfbare Fragen zum Dokument, zu seinen Verfassern und Unterzeichnern sowie zu seinen Empfehlungen auf. Mit den verfügbaren Quellen bleiben diese Fragen offen. Ein Link zum Original oder ein bibliografischer Nachweis, der Datum und Unterzeichnerliste bestätigt, wurde nicht bereitgestellt. Ebenso fehlen ausreichende Informationen darüber, ob Forschende auf den Text geantwortet oder seinen Aussagen widersprochen haben.

Die Überprüfung sollte mit dem Primärdokument beginnen und dessen Inhalt anschließend mit der Berichterstattung abgleichen. Enthält das Original einen konkreten Vorschlag, ließe sich dieser unter genauer Quellenangabe beschreiben und von journalistischen Interpretationen trennen. Formuliert es lediglich eine allgemeine Sorge, sollte das auch so dargestellt werden. Lässt sich kein überprüfbares Original finden, sollte sich die Nachricht darauf beschränken, dass ein Medium über eine entsprechende Forderung berichtet, statt eine gemeinsame Erklärung als bestätigt auszugeben.

Derzeit lässt sich nur eine engere Bilanz ziehen: Es gibt einen journalistischen Verweis auf eine Forderung nach Aufsicht; OpenAI beschreibt das Ziel, einen automatisierten Forscher unter menschlicher Aufsicht zu entwickeln; eine Arbeit zur Messung der Automatisierung von KI-Forschung und -Entwicklung ist bekannt, doch die hier verfügbaren Angaben dazu sind begrenzt; und die Europäische Kommission stellt eine allgemeine Seite zum regulatorischen Rahmen für KI bereit. Keiner dieser Punkte bestätigt für sich genommen – oder in ihrer Gesamtheit – die Urheberschaft oder den Inhalt der angeblichen Erklärung.

Die Schlussfolgerung lautet daher weder, dass die Automatisierung der Forschung unwichtig sei, noch, dass das alarmierendste Szenario bewiesen sei. Vielmehr erklären die vorliegenden Quellen, warum das Thema weiter beobachtet werden sollte, können aber die zentrale Behauptung nicht mit der Detailgenauigkeit überprüfen, die eine Nachricht über eine gemeinsame Erklärung erfordert. Bis der Originaltext, die Namen und die Empfehlungen vorliegen, müssen diese Angaben als unbestätigt gelten.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.