Come verificare le affermazioni generate dall’IA: un protocollo per decidere cosa mantenere, correggere o ritirare

Una risposta convincente non è ancora una risposta supportata da prove

Una risposta generata dall’IA può sembrare precisa e tuttavia contenere una data errata, esagerare ciò che dice una fonte o attribuire un dato a un documento che non lo supporta. Per esaminare con rigore risposte di questo tipo, è utile distinguere tre domande: l’affermazione è vera? La fonte citata esiste ed è pertinente? Il passaggio citato supporta esattamente ciò che viene affermato? Sono verifiche correlate, ma non equivalenti.

Una citazione può essere autentica e rimandare a una fonte autorevole senza dimostrare l’affermazione specifica. Il documento potrebbe riguardare un altro periodo, una popolazione diversa, un altro luogo o un indicatore differente. Potrebbe anche presentare una conclusione con riserve che la risposta dell’IA omette. Perciò, controllare che il link si apra è solo il primo passo: occorre trovare il passaggio e confrontarlo con l’intera formulazione dell’affermazione.

L’IA può aiutare a trovare fonti candidate, separare le idee e riassumere documenti lunghi. La decisione editoriale deve però basarsi sulla fonte sottostante e sulla lettura del passaggio pertinente, non sulla sicurezza espressa dal modello o sul suo riassunto. Le linee guida europee per un’IA affidabile includono trasparenza, tracciabilità, supervisione umana e verificabilità come principi generali; non prescrivono un metodo specifico per convalidare le citazioni. Questa guida propone un protocollo operativo, non uno standard certificato.

Definisci cosa verificare e quanto impegno dedicarci

Inizia suddividendo la risposta in affermazioni che si possano valutare separatamente. «La proposta è interessante» esprime un giudizio; «il piano include cinque account» è verificabile. Date, quantità, nomi, requisiti, attribuzioni, citazioni, rapporti causali e descrizioni di funzionalità sono spesso verificabili. Una frase composta può contenere più elementi: «Lo studio del 2024 ha intervistato 2.000 persone e dimostra che il programma ha aumentato la produttività» richiede di controllare separatamente la data, la dimensione del campione e la conclusione causale.

Non è necessario dedicare lo stesso tempo a ogni elemento. Dai priorità a ciò che sostiene la conclusione, a ciò che potrebbe causare danni se fosse falso e a ciò che è specifico o soggetto a cambiamenti. Un dato usato per giustificare una decisione, un’interpretazione giuridica o un’informazione sensibile sulle persone richiede un controllo più rigoroso di un dettaglio secondario di contesto. Questa priorità è una regola pratica di lavoro, non una scala convalidata dalle fonti disponibili.

Prima di cercare, stabilisci quali prove chiarirebbero il dubbio: quale documento avrebbe autorità diretta, quale passaggio dovrebbe contenere e quali condizioni — data, territorio, popolazione, versione o definizione — potrebbero cambiare il risultato. Definire in anticipo questi criteri evita di cercare soltanto conferme e aiuta a riconoscere quando una fonte non è sufficiente.

Protocollo per ogni affermazione: dalla fonte al verdetto

Copia l’affermazione così com’è e assegnale un identificativo. Poi cerca la fonte che ha accesso diretto al dato: il rapporto originale, una banca dati ufficiale, il testo normativo applicabile, la documentazione del prodotto o il registro primario pertinente. Una pagina che cita uno studio può aiutarti a trovarlo, ma non sostituisce automaticamente lo studio. Se la fonte originale non è disponibile, registra il limite invece di considerare verificato il suo contenuto.

Apri il documento e individua la sezione, la tabella o il passaggio preciso. Controlla se il contenuto supporta l’intera affermazione o solo una parte. Esamina condizioni, definizioni, eccezioni e ambito: un’associazione non dimostra necessariamente un rapporto causale; un risultato relativo a un sottogruppo non descrive automaticamente l’intera popolazione; un dato riferito a un anno non va presentato come attuale senza verificarlo. Conserva abbastanza contesto perché un’altra persona possa ripetere il controllo.

Registra anche la data in cui hai consultato la fonte e gli elementi che possono cambiare. Se due pagine rimandano allo stesso studio originale, non contarle come conferme indipendenti: sono due percorsi verso la stessa prova. In caso di disaccordo tra fonti, verifica se la differenza dipende dalla data, dal metodo, dalla definizione o dalla popolazione. Se le prove disponibili non permettono di risolvere il contrasto, mantieni esplicita l’incertezza oppure evita di usare l’affermazione come base per una decisione.

Classifica i risultati senza confondere il dubbio con la falsità

Una scala utile per il lavoro editoriale distingue tra supporto diretto, supporto parziale, contraddizione, fonte insufficiente e affermazione non verificabile. «Supporto diretto» significa che le prove consultate sostengono l’affermazione rispettandone l’ambito e le condizioni. «Parziale» indica che le prove sostengono solo una parte dell’affermazione oppure che la formulazione omette una riserva importante. Per classificare un’affermazione come «contraddetta» servono prove contrarie pertinenti; il fatto di non trovare conferme non basta.

«Fonte insufficiente» descrive un problema delle prove disponibili: per esempio, una pagina menziona l’argomento ma non presenta dati che sostengano la conclusione. «Non verificabile» può essere appropriato quando la proposizione è troppo vaga, non specifica un periodo o non esiste un modo ragionevole per controllarla. Nessuna di queste etichette dimostra automaticamente che il contenuto sia falso. Tieni distinto lo stato delle prove dal giudizio sulla verità.

La decisione deve riflettere il risultato. Mantieni un’affermazione supportata direttamente; correggi o circoscrivi quella supportata solo in parte; elimina o presenta con cautela quella contraddetta; cerca un’altra fonte o descrivi il limite se la fonte è insufficiente; e non presentare come fatto ciò che non può essere verificato. Nei casi ad alto impatto, sottoponi la revisione a una persona competente nel settore pertinente.

Modello di audit per consentire a un’altra persona di ripetere la verifica

Una revisione è riproducibile se un’altra persona può trovare l’affermazione, recuperare la fonte e capire perché è stata presa una certa decisione. Conserva la formulazione originale e la versione corretta, in modo da non perdere la traccia delle modifiche. Annota il titolo o l’identificativo della fonte, la posizione al suo interno — per esempio, la sezione o la tabella —, la data di pubblicazione o aggiornamento, se disponibile, e la data in cui l’hai consultata.

Includi il passaggio pertinente o una descrizione precisa di dove trovarlo, insieme alla valutazione del supporto e ai limiti osservati. Non basta conservare un elenco di link: se uno conduce a una pagina lunga, un’altra persona deve sapere quale parte è stata utilizzata e come è stata interpretata. Per i contenuti sensibili, registra chi ha esaminato e chi ha approvato l’uso, secondo la procedura del tuo team.

La tracciabilità aiuta a rivedere le modifiche e a correggere gli errori, ma non garantisce che l’interpretazione iniziale sia corretta. Se una fonte cambia, una versione precedente non è più disponibile o la valutazione dipende da una traduzione, annotalo ed evita di presentare il registro come una certezza assoluta.

Metti alla prova il protocollo con casi noti e considera i suoi limiti

Prima di usare il processo per decisioni reali, applicalo a un piccolo insieme di risposte i cui riferimenti e problemi siano già noti al team. Includi citazioni inesistenti, citazioni autentiche che non sostengono la conclusione, affermazioni parzialmente corrette, dati non aggiornati e casi privi di prove sufficienti. L’obiettivo non è dimostrare in generale che il modello sia affidabile, ma verificare se la procedura individua errori concreti e lascia una traccia comprensibile.

Conta separatamente gli errori di supporto — la fonte esiste, ma non sostiene quanto le viene attribuito —, le citazioni difettose, le correzioni e le astensioni. Controlla inoltre se persone diverse arrivano a classificazioni simili usando le stesse istruzioni e gli stessi documenti. La percentuale di risposte corrette in un piccolo insieme può aiutare a migliorare il processo; non dimostra la qualità generale del modello e non permette di estendere i risultati ad altri argomenti, lingue o livelli di rischio.

Una lista di controllo non elimina tutti i limiti. Alcune fonti sono inaccessibili o incomplete; le affermazioni composte richiedono più verifiche; le fonti possono divergere per definizioni o date; e chi revisiona può fidarsi troppo di una citazione senza leggerla. Le raccomandazioni didattiche di CIAEM invitano a confrontare le informazioni e a controllare l’esistenza e la corrispondenza dei riferimenti, ma non convalidano tecnicamente il protocollo proposto qui. Se le prove non chiariscono il caso, la scelta responsabile è indicare che cosa manca, chiedere una revisione o astenersi.

Continua a esplorare

Correzioni e trasparenza

Se trovi un dato errato o non aggiornato, inviaci la pagina e la fonte da verificare.