Dati sintetici: che cosa sono, come si generano e che cosa non garantiscono

Definizione: dati creati artificialmente per uno scopo preciso

I dati sintetici sono dati generati artificialmente per riprodurre, con diversi gradi di fedeltà, caratteristiche o proprietà dei dati reali rilevanti per uno specifico caso d’uso. La parola «sintetico» descrive l’origine dei dati: non ne certifica la qualità, l’utilità per qualunque attività né l’anonimato.

La distinzione fondamentale riguarda l’origine e le proprietà del insieme. Un record sintetico non viene raccolto direttamente come osservazione del fenomeno reale: è prodotto attraverso una procedura di generazione. Perché sia utile a uno scopo, può essere importante che mantenga alcuni schemi dei dati di riferimento, per esempio le relazioni tra variabili o la presenza di casi rilevanti. Ciò che deve essere conservato dipende dall’attività: non esiste un’unica proprietà che renda utile qualsiasi insieme sintetico.

L’Agenzia spagnola per la protezione dei dati descrive i dati sintetici come dati generati artificialmente e osserva che, per uno specifico caso d’uso, devono preservare caratteristiche e proprietà dei dati reali. Questa condizione di utilità legata al contesto non equivale ad affermare che il risultato riproduca fedelmente ogni aspetto dell’insieme originale o che sia privo di rischi per la privacy.

Di conseguenza, un’affermazione come «questo insieme è sintetico» risponde, al massimo, a una domanda sulla sua origine. Per capire che cosa consenta di fare, occorre chiedersi quale processo lo abbia generato, quali aspetti dei dati di riferimento si intendesse conservare e quali verifiche siano state condotte per l’uso previsto.

Come si progettano la generazione e la convalida

Un progetto di dati sintetici parte dallo scopo, non dalla scelta di uno strumento. Un insieme adatto a verificare il funzionamento di un programma potrebbe non essere adatto a stimare una tendenza, studiare casi rari o addestrare un sistema di percezione. Prima di generare i dati, è opportuno precisare quale decisione, prova o ricerca si intenda supportare.

Il passaggio successivo consiste nel definire quali proprietà siano importanti per quello scopo. Potrebbero riguardare la struttura dei dati, le relazioni tra campi o la presenza di esempi di determinate situazioni. Il criterio non dovrebbe essere «che siano simili» in astratto: bisogna specificare quale somiglianza sarebbe utile e come la si verificherebbe. Le fonti consultate non individuano un elenco universale di proprietà né una metrica valida per tutti gli usi.

In seguito si sceglie e si documenta la procedura di generazione. Le fonti fornite confermano che esistono dati generati artificialmente e fanno riferimento alla generazione algoritmica, ma non bastano a stabilire una tassonomia tecnica esaustiva né a confrontare metodi specifici. Perciò, nell’esaminare un insieme, è più rigoroso chiedere una descrizione del metodo effettivamente utilizzato, anziché dedurlo dalla sola etichetta «sintetico».

Infine, si valuta il risultato rispetto allo scopo e si esaminano separatamente le possibili conseguenze per la privacy. Un controllo della somiglianza statistica, se effettuato, non dimostra di per sé che l’insieme sia adatto a un’attività concreta; allo stesso modo, non dimostra che non riproduca informazioni provenienti dall’insieme di origine. La valutazione dovrebbe indicare che cosa è stato verificato, rispetto a quale riferimento e quali sono i limiti.

Tre esempi applicativi

Gli scenari seguenti sono esempi illustrativi delle domande che potrebbe porsi un gruppo di lavoro; non attestano che un insieme specifico sia stato generato, convalidato o distribuito in quel modo. In ciascun caso, l’utilità dipende dall’attività e dalle prove disponibili.

blocks_placeholder

Che cosa verificare: utilità, copertura e privacy

L’utilità non è una proprietà universale dell’insieme: è sempre riferita a un’attività. Chiedete quale attività sia stata convalidata e se corrisponda a quella proposta. Un insieme che consente di verificare se un’applicazione accetta determinati formati potrebbe non essere adatto a sostenere una conclusione sulla precisione di un modello. Analogamente, il risultato di una valutazione non dovrebbe essere generalizzato a popolazioni, ambienti o decisioni che non sono stati esaminati.

Conta anche la copertura. La procedura di generazione potrebbe non conservare tutti i casi rilevanti e un insieme potrebbe rappresentare gruppi, situazioni o combinazioni di variabili con gradi diversi di fedeltà. Non basta che i dati siano numerosi o che alcuni riepiloghi coincidano con quelli dell’insieme di origine. Il gruppo dovrebbe spiegare quali dimensioni ha confrontato e quali casi non rientravano nella valutazione.

La privacy richiede un esame indipendente. Il fatto che i dati non siano stati raccolti direttamente come record reali non dimostra che la procedura non riproduca informazioni del materiale usato per generarli o non consenta di inferirle. Le fonti fornite non riportano risultati di test sulla privacy per un insieme specifico, né una garanzia generale applicabile a tutti i metodi. Per questo, ogni affermazione di protezione dovrebbe essere collegata a verifiche, ipotesi e contesti d’uso identificabili.

È inoltre opportuno documentare l’insieme di riferimento, lo scopo della generazione, la procedura, le valutazioni e i limiti. Se queste informazioni mancano, non è possibile distinguere un’affermazione sostenuta da prove da una descrizione generica. La valutazione della privacy non sostituisce l’analisi degli obblighi e dei rischi pertinenti al contesto: questa scheda non costituisce consulenza legale.

Concetti vicini da non confondere

Dati sintetici e dati anonimizzati descrivono aspetti diversi. «Sintetico» riguarda l’origine artificiale; «anonimizzato» è un’affermazione relativa al trattamento dei dati e al rischio che, in un determinato contesto, le persone possano essere identificate o reidentificate. Un insieme sintetico potrebbe essere stato generato a partire da dati reali: il suo carattere artificiale, quindi, non basta a determinare quali informazioni conservi né quali rischi comporti. Non si dovrebbe nemmeno presumere che sia anonimizzato in assenza di prove.

L’aumento dei dati, o data augmentation, indica di norma la creazione di varianti di esempi esistenti mediante trasformazioni, allo scopo di ampliare o modificare il materiale disponibile per un’attività. Non equivale automaticamente a generare un insieme sintetico con un’altra procedura. Per classificare un caso specifico è importante sapere se siano stati trasformati esempi originali, se siano state create osservazioni mediante regole o simulazioni oppure se sia stato utilizzato un modello. Il nome commerciale o informale dell’insieme non chiarisce la questione.

La simulazione genera osservazioni secondo regole o una rappresentazione di un processo. Può produrre dati sintetici, ma il termine descrive il meccanismo o l’ambiente di generazione, mentre «sintetico» descrive l’origine artificiale del risultato. La qualità della simulazione dipende dalle sue ipotesi e dal rapporto tra ciò che viene simulato e l’attività reale.

I dati generati da modelli costituiscono un’altra possibile famiglia di procedure, ma non si dovrebbe presumere che tutti i dati sintetici derivino da un modello addestrato su record reali. Le fonti istituzionali qui disponibili non documentano con sufficiente dettaglio tutte le famiglie, i relativi requisiti o un confronto delle prestazioni. Di fronte a un’affermazione specifica, chiedete una descrizione del metodo ed evitate di trasformare una possibilità tecnica in una definizione universale.

Infine, contaminazione dei dati, generalizzazione e valutazione dell’IA sono concetti collegati, ma distinti. La contaminazione riguarda la presenza di informazioni inappropriate o legate alla valutazione che possono influenzare i dati o il processo valutato; la generalizzazione riguarda il comportamento di un sistema al di fuori degli esempi usati per svilupparlo; la valutazione è il processo con cui si misura tale comportamento. L’impiego di dati sintetici non risolve da solo nessuna di queste questioni.

Limiti ed errori frequenti

Un errore frequente è considerare la somiglianza statistica una garanzia complessiva. Un insieme può approssimare alcune proprietà del materiale di riferimento e differire per altre. Senza sapere quali caratteristiche siano state confrontate, non si può affermare in generale che conservi «i dati». La fedeltà rilevante dipende dalla domanda a cui si vuole rispondere.

Un altro errore è estendere il risultato di una verifica a un uso più ampio. Il fatto che i dati siano adatti a testare una funzione software non dimostra che siano appropriati per fare inferenze, svolgere ricerche o prendere decisioni sulle persone. Prima di riutilizzarli, occorre verificare se lo scopo è cambiato e se i criteri di validità sono stati giustificati nuovamente.

È rischioso anche interpretare «non contiene dati reali» come «non può rivelare informazioni». Per giungere a questa conclusione è necessario esaminare come sia stato generato l’insieme e quali verifiche sostengano l’affermazione. Le note sulle fonti disponibili non consentono di dichiarare che un metodo specifico sia immune dalla riproduzione di informazioni né di quantificare un rischio generale.

Infine, non si dovrebbe presumere che un insieme sintetico sostituisca sempre i dati reali o elimini ogni limite di accesso, distorsione o qualità. Può essere utile in alcuni flussi di lavoro, ma la sua pertinenza e i rischi vanno valutati caso per caso. Quando mancano documentazione, metriche o verifiche, la conclusione ragionevole è che le prove siano insufficienti, non che l’insieme sia necessariamente inutile o necessariamente sicuro.

Criteri pratici per valutare un’affermazione

Quando ricevete un insieme o una promessa relativa a dati sintetici, cominciate chiedendo una descrizione verificabile: chi li ha generati, su quale materiale o riferimento si è basato, quale procedura ha utilizzato e per quale attività sono stati progettati. Se queste risposte non sono disponibili, non è possibile valutare con precisione né la portata dell’utilità né il significato di un’affermazione sulla privacy.

Verificate poi se la valutazione è coerente con lo scopo. Chiedete quali proprietà siano state misurate, quali casi rilevanti siano stati considerati, quale confronto sia stato usato e quali limiti siano stati riconosciuti. Una singola metrica non ha un significato universale: occorre sapere che cosa intenda misurare e perché sia adeguata a quella specifica applicazione.

Per la privacy, chiedete di illustrare le verifiche svolte e il tipo di rischio esaminato, senza accettare che «sintetico» sia usato come sinonimo di «anonimo». Per le prestazioni, chiedete quale uso sia stato convalidato e quali usi restino fuori dalla valutazione. Tenete separate le due analisi, perché un esito favorevole in una non risolve automaticamente l’altra.

In sintesi: definite lo scopo, esaminate il metodo, chiedete una convalida legata all’attività e considerate la privacy una questione indipendente. Se non sono noti riferimenti, verifiche o ipotesi, annotate l’incertezza. Questa cautela aiuta a distinguere una proprietà documentata da un’aspettativa e impedisce di attribuire al termine più di quanto significhi.

Concetti correlati