OpenAI beschreibt Einflussoperationen mit falschen Tarnidentitäten: Was bekannt ist – und was noch geprüft werden muss

Was OpenAI behauptet – und was eine Zuschreibung bedeutet

OpenAI hat einen Bericht über zwei verdeckte Einflussoperationen veröffentlicht, bei denen nach Angaben des Unternehmens Tarnidentitäten zur Verbreitung von Inhalten eingesetzt wurden. In der offiziellen Beschreibung ist von fiktiven Journalistinnen und Journalisten bei der dem Iran zugeschriebenen Operation die Rede. Bei der anderen Operation soll ein Thinktank als Fassade gedient haben. OpenAI erklärt, beide Aktivitäten unterbunden zu haben. Das ist eine Darstellung dessen, was das Unternehmen in seinen eigenen Diensten erkannt hat – keine unabhängige Bewertung sämtlicher Vorgänge und ihrer Folgen.

Der Vorschlag für diesen Artikel verbindet die Operationen mit Akteuren aus Russland und dem Iran. Die für diesen Beitrag überprüfbaren Informationen reichen jedoch nicht aus, um im Einzelnen nachzuvollziehen, wie OpenAI zu jeder Zuschreibung gelangt ist, welche Indikatoren ausschlaggebend waren oder welchen Grad an Sicherheit das Unternehmen den jeweiligen Verbindungen beimisst. Deshalb sollte die Zuschreibung als Einschätzung von OpenAI wiedergegeben werden, nicht als unabhängig bewiesene Identität.

Diese Unterscheidung ist wichtig. Ein Unternehmen kann Zugang zu Nutzungsdaten seiner Werkzeuge haben, die nicht öffentlich sind. Solche Daten beweisen aber nicht automatisch, wer ein Konto kontrollierte, wer einen bestimmten Text verfasste oder wer eine Kampagne in Auftrag gab. Für eine Bewertung der Zuschreibung wären auch überprüfbare Belege hilfreich – etwa Dokumente, nachweisbare operative Verbindungen oder technische Analysen, deren Methodik sich nachvollziehen lässt.

Tarnidentitäten und Verbreitung: Mechanismus und Ergebnis auseinanderhalten

Der Begriff „Tarnidentität“ beschreibt einen Anschein von Glaubwürdigkeit, der verschleiert, wer hinter einer Aktivität steht. In diesem Fall geht es in OpenAIs Bericht um Operationen, bei denen Identitäten oder Organisationen als journalistische oder institutionelle Stimmen aufgetreten sein sollen. Eine solche Taktik kann Inhalte so wirken lassen, als stammten sie von einer unabhängigen Quelle, obwohl die Identität oder Organisation nicht echt ist.

Eine Tarnidentität nachzuweisen bedeutet jedoch nicht automatisch, dass ein bestimmter Artikel in einem Medium erschienen ist, dass eine Redaktion ihn annahm, ohne seine Herkunft zu kennen, oder dass der Inhalt ein bedeutendes Publikum erreichte. Das sind unterschiedliche Sachverhalte, für die jeweils eigene Belege nötig wären: archivierte Profile, datierte Textkopien, redaktionelle Aufzeichnungen, Verbreitungskennzahlen und Nachweise dazu, wer die Konten kontrollierte.

Mit den für diesen Beitrag vorliegenden Informationen lassen sich die Veröffentlichungen und Profile, die den Operationen zugeschrieben werden, nicht unabhängig auffinden und archivieren. Ebenso fehlen überprüfbare Kennzahlen zu Reichweite oder Wirkung. Daher lässt sich hier nicht sagen, wie viele Beiträge tatsächlich veröffentlicht wurden, wo sie erschienen oder wie viele Menschen sie gesehen haben. Dass solche Angaben im geprüften Material fehlen, beweist nicht, dass es keine entsprechenden Beiträge gab. Es markiert die Grenze dessen, was sich bestätigen lässt.

Auch die Erstellung von Inhalten und ihre Verbreitung müssen getrennt betrachtet werden. Ein Text kann mit Unterstützung eines Werkzeugs entstehen, von einer Person überarbeitet und anschließend über andere Konten oder Kanäle verbreitet werden. Ein Beleg für einen dieser Schritte weist die übrigen nicht automatisch nach. Insbesondere würde der Einsatz eines KI-Modells für Entwürfe für sich genommen weder belegen, dass das Modell die Kampagne konzipiert hat, noch dass ihre Betreiber Artikel platzieren konnten.

Welche Rolle spielte künstliche Intelligenz?

Der Bericht spricht von KI-gestützten Operationen. Diese Bezeichnung sollte jedoch nicht als Beleg dafür verstanden werden, dass sämtliche Inhalte automatisch erzeugt wurden. In einer Kampagne können sehr unterschiedliche Aufgaben zusammenkommen: Entwürfe verfassen, Texte übersetzen oder korrigieren, Varianten vorschlagen, Veröffentlichungen vorbereiten oder Teile der Aktivität automatisieren. Für jede dieser Tätigkeiten wären eigene Belege erforderlich.

Anhand der für diese Prüfung zugänglichen Dokumentation lässt sich nicht feststellen, welche Modelle bei den einzelnen Operationen zum Einsatz kamen, wie viele Texte erstellt wurden, welcher Anteil von Menschen verfasst wurde oder welche Änderungen vor der Verbreitung erfolgten. Ebenso wenig kann der KI die Erstellung von Profilen oder die tatsächliche Veröffentlichung von Artikeln zugeschrieben werden, solange keine spezifischen Aufzeichnungen diese Handlungen mit konkreten Werkzeugen verbinden.

Diese Vorsicht mindert nicht die mögliche Bedeutung des Einsatzes generativer Werkzeuge. Wenn eine Operation sie nutzt, um Inhalte schneller oder günstiger herzustellen, kann das relevant sein, auch wenn Menschen weiterhin die Entscheidungen treffen und die Verbreitung steuern. Eine präzise Beschreibung muss jedoch zwischen „mit KI erstellten Inhalten“, „KI-unterstützten Inhalten“ und einer „Operation, bei der KI-Werkzeuge eingesetzt wurden“ unterscheiden. Diese Formulierungen sind nicht austauschbar.

Was sich bestätigen lässt – und was noch fehlt

Die geprüfte Dokumentationsgrundlage bestätigt, dass OpenAI einen Bericht über zwei Einflussoperationen mit Tarnorganisationen veröffentlicht hat. Die offizielle Beschreibung erwähnt fiktive Journalistinnen und Journalisten bei der dem Iran zugeschriebenen Operation. OpenAI hat außerdem Berichte über andere Einflusskampagnen veröffentlicht. Diese Dokumente behandeln jedoch andere Operationen: Sie bieten Kontext zu OpenAIs Erkennungs- und Reaktionsmaßnahmen, bestätigen aber nicht unabhängig die Einzelheiten des aktuellen Berichts.

Die verfügbaren Belege erlauben keine unabhängige Überprüfung archivierter Artikel und Profile, der Platzierung von Beiträgen in Medien, der Reichweite ihrer Verbreitung oder ihrer Wirkung auf das Publikum. Auch eine in der Artikelplanung erwähnte Einstufung des Schweregrads lässt sich nicht bewerten: Ihre Definition, Skala, Berechnung und konkrete Anwendung liegen hier nicht vor. Sie ohne diese Erläuterungen als objektives Maß darzustellen, würde eine Genauigkeit vortäuschen, die sich nicht belegen lässt.

Eine Reaktion von OpenAI auf Aktivitäten, die in den eigenen Diensten erkannt wurden, kann die Nutzung dieser Werkzeuge unterbrechen. Sie beweist aber nicht, dass die Operation über sämtliche Kanäle hinweg beendet wurde. Ebenso wenig lässt sich daraus schließen, dass es außerhalb der Plattform keine Auswirkungen gab. Für weitergehende Aussagen wären zusätzliche öffentliche Daten und eine unabhängige Prüfung von Veröffentlichungen, Konten und Verbreitungswegen nötig.

Warum unabhängige Überprüfung wichtig ist

Operationen, die ihre Herkunft verschleiern, können das Vertrauen in Journalismus und Institutionen erschüttern – auch wenn ihre Reichweite unbekannt ist. Zugleich kann eine Zuschreibung ohne nachvollziehbare Begründung dazu führen, dass eine Einschätzung einer Plattform mit einer externen Überprüfung verwechselt wird. Transparenz verlangt, sowohl die Erkenntnisse als auch ihre Grenzen offenzulegen.

Eine reproduzierbare Untersuchung könnte die identifizierten Texte mit öffentlichen Archiven vergleichen, den Zeitpunkt des Auftauchens der Profile überprüfen und nachverfolgen, ob dieselben Inhalte an verschiedenen Orten verbreitet wurden. Sie sollte außerdem erläutern, welche Belege die Aktivitäten mit den zugeschriebenen Akteuren verbinden und welche alternativen Erklärungen geprüft wurden. Wenn bestimmte Daten aus Sicherheits- oder Datenschutzgründen nicht veröffentlicht werden können, sollte das benannt werden, ohne nicht veröffentlichte Informationen so darzustellen, als seien sie bereits von Dritten bestätigt.

Die vorläufige Schlussfolgerung sollte daher eng gefasst bleiben: OpenAI erklärt, zwei verdeckte Einflussoperationen mit Tarnidentitäten unterbunden zu haben. Die offizielle Beschreibung verweist bei einer davon auf fiktive Journalistinnen und Journalisten. Die bereitgestellte Dokumentation erlaubt es nicht, unabhängig festzustellen, welche Artikel veröffentlicht wurden, wie viele Inhalte mit KI entstanden, welche Reichweite die Aktivitäten hatten oder worauf die Zuschreibung im Einzelnen beruht. Diese Fragen bleiben offen, bis genügend öffentliche Belege vorliegen.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.