Che cosa ha annunciato OpenAI
Il 5 ottobre OpenAI ha descritto un approccio graduale alla provenienza dei testi. L’azienda afferma che nelle prossime settimane aggiungerà una filigrana invisibile ai testi idonei generati da ChatGPT e Codex nell’Unione europea. Separatamente, i clienti API di tutto il mondo potranno attivare la filigrana per alcuni modelli; nelle API resterà disattivata per impostazione predefinita.
OpenAI ha inoltre aperto le candidature per accedere al rilevatore, inizialmente riservato a ricercatori e organizzazioni approvati. Il rilascio UE è pianificato, non già completato. L’opzione API è distinta dal lancio regionale su ChatGPT e Codex: le aziende devono verificare la disponibilità effettiva del prodotto che utilizzano.
Una filigrana statistica, non metadati visibili
Il testo non può conservare semplicemente una filigrana nel modo in cui un file può contenere metadati. OpenAI spiega che textGrain influenza statisticamente la scelta delle parole; un rilevatore cerca poi quel segnale nel brano. Il metodo dipende dalla presenza di sufficiente flessibilità linguistica, quindi non identifica allo stesso modo ogni frase, materia o lingua.
Secondo le valutazioni pubblicate da OpenAI, i testi brevi o fortemente vincolati sono più difficili da classificare e le modifiche possono indebolire il segnale. Sono risultati comunicati dall’azienda, non una garanzia valida per ogni lingua, modello, documento o processo editoriale.
Che cosa non dimostra il risultato
OpenAI precisa che una filigrana non misura il contributo umano, non stabilisce titolarità o responsabilità, non identifica l’utente e non verifica la veridicità del testo. Un esito positivo è quindi un indizio limitato sulla provenienza, non la prova che una persona abbia copiato un contenuto o che un’affermazione sia vera.
Anche l’assenza del segnale non prova una paternità umana: il testo potrebbe essere troppo breve, modificato, tradotto, prodotto da un modello non supportato o generato prima del rilascio della funzione. OpenAI non rende pubblico il rilevatore al lancio anche per i rischi di falsi positivi e mancate rilevazioni. Non è uno strumento adatto a decidere da solo questioni di lavoro, studio o conformità.
Il contesto europeo va interpretato con cautela
OpenAI collega il proprio approccio all’AI Act europeo. L’articolo 50 prevede obblighi di trasparenza per i fornitori di sistemi di IA generativa, ma gli obblighi concreti dipendono dal ruolo, dal sistema e dall’uso. L’annuncio di un fornitore non sostituisce la lettura del regolamento né una valutazione giuridica del caso. La filigrana è una tecnica possibile, non una risposta completa a ogni requisito di trasparenza.
Le aziende che pubblicano o trattano contenuti generati dovrebbero documentare strumenti, processi di revisione e modalità di comunicazione. I team dovrebbero verificare piano, modello e impostazioni API effettivamente utilizzati. Per interpretare gli obblighi è preferibile consultare i materiali ufficiali europei, senza presumere che ogni testo assistito dall’IA riceva lo stesso segnale.
Indicazioni pratiche per i team editoriali
Redazioni e team marketing possono considerare la provenienza come un elemento di un processo più ampio. Servono ancora revisione umana, controllo delle fonti e responsabilità editoriale. Per un testo importante è più utile conservare la cronologia di lavoro e i materiali di partenza che chiedere a un rilevatore di ricostruire chi abbia fatto cosa.
Gli sviluppatori dovrebbero verificare documentazione API, modelli idonei e modalità di attivazione prima di progettare un flusso basato sulla filigrana. Per i prodotti rivolti all’UE, è importante descrivere la funzione senza promesse e rendere visibile l’incertezza. La provenienza automatica può integrare, non sostituire, trasparenza, documentazione e giudizio umano.
Fonti e approfondimenti
Vuoi segnalare un errore o suggerire una fonte? Contatta la redazione.
