Google introduce un watermark invisibile per testo generato da AI

Google ha lanciato una nuova tecnologia, SynthID Tezt, che consente di inserire un watermark invisibile nei testi generati da intelligenze artificiali. Questa funzionalità fa parte del Responsible GenAI Toolkit, un pacchetto di strumenti gratuito per sviluppatori, già disponibile sulla piattaforma Hugging Face.

Come funziona il watermark

Per comprendere il funzionamento di SynthID, è utile sapere che le AI generative operano attraverso calcoli probabilistici. Vengono addestrate su enormi volumi di dati e apprendono come formare frasi coerenti sulla base delle probabilità associate a ciascun token (carattere o parola). SynthID sfrutta questo meccanismo intervenendo nei modelli di scelta delle parole, creando un watermark unico che consente di identificare se un testo è stato generato da un’AI come ChatGPT o Gemini.

Limitazioni di SynthID

Nonostante la promessa di identificazione, Google riconosce che SynthID presenta alcune limitazioni. La tecnologia non è efficace per testi brevi, contenuti rielaborati o frasi tradotte, poiché l’intervento nel pattern di scelta dei token potrebbe compromettere la qualità e la precisione del testo.

Altri sviluppi nel settore

Anche altre aziende, come OpenAI, stanno esplorando soluzioni simili per tracciare i contenuti AI. In Cina, le normative impongono già l’inserimento di watermark nei testi generati, e la California sta considerando l’adozione di obblighi simili. Con queste iniziative, l’industria si muove verso una maggiore trasparenza nell’uso delle tecnologie AI.

Resta aggiornato

Segui Servicematica sui social

Notizie, aggiornamenti e interruzioni, ogni giorno nel tuo feed.

Facebook Instagram LinkedIn Telegram