OpenAI descrive operazioni d’influenza con false coperture: cosa sappiamo e cosa resta da verificare

Cosa sostiene OpenAI e cosa significa l’attribuzione

OpenAI ha pubblicato un rapporto su due operazioni clandestine d’influenza che, secondo l’azienda, avrebbero utilizzato false coperture per diffondere contenuti. Nella descrizione ufficiale si menzionano identità fittizie di giornalisti nell’operazione attribuita all’Iran e un centro di ricerca presentato come parte dell’altra operazione. L’azienda dichiara di essere intervenuta per interrompere entrambe le attività. È un resoconto di quanto OpenAI afferma di aver rilevato sui propri servizi, non una valutazione indipendente di tutti i fatti e delle loro conseguenze.

La proposta di questo articolo collega le operazioni ad attori russi e iraniani. Tuttavia, le informazioni verificabili messe a disposizione per questa analisi non consentono di ricostruire nel dettaglio come OpenAI sia giunta a ciascuna attribuzione, quali indicatori abbia considerato decisivi o quale grado di certezza abbia assegnato ai singoli collegamenti. Per questo, l’attribuzione va presentata come la valutazione di OpenAI, non come un’identità dimostrata in modo indipendente.

La distinzione è importante. Un’azienda può disporre di registri d’uso dei propri strumenti che non sono pubblici, ma quei registri non dimostrano automaticamente chi controllasse un account, chi abbia scritto ciascun testo o chi abbia commissionato un’operazione. Per valutare l’attribuzione servirebbero anche elementi esaminabili, come documenti, collegamenti operativi verificabili o analisi tecniche con una metodologia trasparente.

False coperture e diffusione: distinguere il meccanismo dai risultati

Il termine «falsa copertura» descrive un’apparenza di legittimità che nasconde chi è responsabile di un’attività. In questo caso, il rapporto di OpenAI riguarda operazioni che avrebbero presentato identità o organizzazioni come se fossero voci giornalistiche o istituzionali. Questa tattica può far sembrare che un contenuto provenga da una fonte indipendente, anche quando l’identità o l’organizzazione non sono autentiche.

Ma individuare una falsa copertura non equivale a dimostrare che un determinato articolo sia stato pubblicato da una testata, che un redattore lo abbia accettato senza conoscerne l’origine o che il contenuto abbia raggiunto un pubblico significativo. Sono fatti distinti e richiedono prove diverse: profili archiviati, copie dei testi con data, registri editoriali, metriche di diffusione e riscontri su chi controllasse gli account.

Le informazioni fornite per questo articolo non consentono di individuare e archiviare autonomamente le pubblicazioni e i profili attribuiti alle operazioni. Non includono neppure metriche verificabili sulla portata o sull’impatto. Di conseguenza, non è possibile affermare qui quanti contenuti siano stati effettivamente pubblicati, dove siano apparsi o quante persone li abbiano visti. L’assenza di questi dati nel materiale consultato non dimostra che non esistessero: delimita ciò che è possibile confermare.

È inoltre utile distinguere la creazione dei contenuti dalla loro circolazione. Un testo può essere redatto con l’aiuto di uno strumento, modificato da una persona e poi diffuso attraverso account o canali separati. Le prove di una fase non dimostrano automaticamente le altre. In particolare, l’uso di un modello di IA per produrre bozze non dimostrerebbe da solo che il modello abbia ideato l’operazione o che i responsabili siano riusciti a far pubblicare gli articoli.

Quale ruolo ha avuto l’intelligenza artificiale

Il rapporto parla di operazioni potenziate dall’IA, ma questa definizione non dovrebbe essere intesa come prova che tutti i contenuti siano stati generati automaticamente. In un’operazione possono coesistere attività diverse: scrivere bozze, tradurre, correggere, proporre varianti, preparare pubblicazioni o automatizzare parte del lavoro. Per ciascuna occorrono prove specifiche.

Con la documentazione accessibile per questa verifica non è possibile stabilire quali modelli siano stati utilizzati in ciascuna operazione, quanti testi siano stati prodotti, quale parte sia stata scritta da persone o quali modifiche siano state apportate prima della diffusione. Non si può neppure attribuire all’IA la creazione dei profili o la pubblicazione effettiva di articoli senza registri specifici che colleghino quelle azioni a strumenti concreti.

Questa cautela non riduce l’importanza di un possibile uso di strumenti generativi. Se un’operazione li impiega per ridurre i costi o accelerare la produzione di contenuti, il dato può essere rilevante anche quando le persone mantengono il controllo delle decisioni e della distribuzione. Una descrizione precisa, però, deve distinguere tra «contenuto creato con l’IA», «contenuto assistito dall’IA» e «operazione che ha utilizzato strumenti di IA». Non sono espressioni intercambiabili.

Cosa si può verificare e cosa manca

La documentazione esaminata permette di confermare che OpenAI ha pubblicato un rapporto dedicato a due operazioni d’influenza basate su false coperture. La descrizione ufficiale menziona identità fittizie di giornalisti nell’operazione iraniana. OpenAI ha pubblicato anche rapporti su altre campagne d’influenza, ma quei documenti riguardano operazioni diverse: offrono un contesto sul lavoro di rilevamento e risposta dell’azienda, non una corroborazione indipendente dei dettagli del rapporto in questione.

Le prove disponibili non consentono di verificare separatamente gli archivi di articoli e profili, la pubblicazione di contenuti su testate, la portata della diffusione o gli effetti sul pubblico. Non bastano neppure a valutare una classificazione di gravità menzionata nella proposta: qui non sono disponibili la sua definizione, la scala, il metodo di calcolo o la sua applicazione concreta. Presentarla come una misura oggettiva senza queste spiegazioni darebbe un’impressione ingannevole di precisione.

La risposta di OpenAI a un’attività rilevata sui suoi servizi può interrompere l’uso dei suoi strumenti, ma non dimostra che l’operazione sia cessata su tutti i canali. Non consente neppure di concludere che non vi siano stati effetti al di fuori della piattaforma. Per sostenere affermazioni più ampie servirebbero ulteriori dati pubblici e verifiche indipendenti delle pubblicazioni, degli account e della distribuzione.

Perché è importante una verifica indipendente

Le operazioni che nascondono la propria origine possono erodere la fiducia nel giornalismo e nelle istituzioni, anche quando non se ne conosce la portata. Allo stesso tempo, attribuire una campagna senza mostrare come si sia arrivati alla conclusione può confondere la valutazione di una piattaforma con una verifica esterna. La trasparenza richiede di illustrare sia i risultati sia i loro limiti.

Un’indagine riproducibile permetterebbe di confrontare i testi identificati con archivi pubblici, verificare quando siano comparsi i profili e ricostruire se gli stessi contenuti abbiano circolato in spazi diversi. Dovrebbe inoltre spiegare quali prove colleghino quelle attività agli operatori indicati e quali ipotesi alternative siano state considerate. Se alcuni dati non possono essere divulgati per ragioni di sicurezza o privacy, è opportuno dichiararlo senza presentare come già verificata da terzi un’informazione non pubblicata.

Per ora, la conclusione prudente è circoscritta: OpenAI afferma di aver smantellato due operazioni clandestine d’influenza che utilizzavano false coperture e la descrizione ufficiale menziona identità fittizie di giornalisti in una di esse. La documentazione fornita non consente di verificare autonomamente quali articoli siano stati pubblicati, quanto contenuto sia stato prodotto con l’IA, quale sia stata la portata delle attività o tutti i fondamenti dell’attribuzione. Questi punti devono restare aperti finché non saranno disponibili prove pubbliche sufficienti.

Continua a esplorare

Correzioni e trasparenza

Se trovi un dato errato o non aggiornato, inviaci la pagina e la fonte da verificare.