Google ha lanciato una nuova tecnologia, SynthID Tezt, che consente di inserire un watermark invisibile nei testi generati da intelligenze artificiali. Questa funzionalità fa parte del Responsible GenAI Toolkit, un pacchetto di strumenti gratuito per sviluppatori, già disponibile sulla piattaforma Hugging Face.
Come funziona il watermark
Per comprendere il funzionamento di SynthID, è utile sapere che le AI generative operano attraverso calcoli probabilistici. Vengono addestrate su enormi volumi di dati e apprendono come formare frasi coerenti sulla base delle probabilità associate a ciascun token (carattere o parola). SynthID sfrutta questo meccanismo intervenendo nei modelli di scelta delle parole, creando un watermark unico che consente di identificare se un testo è stato generato da un’AI come ChatGPT o Gemini.
Limitazioni di SynthID
Nonostante la promessa di identificazione, Google riconosce che SynthID presenta alcune limitazioni. La tecnologia non è efficace per testi brevi, contenuti rielaborati o frasi tradotte, poiché l’intervento nel pattern di scelta dei token potrebbe compromettere la qualità e la precisione del testo.
Altri sviluppi nel settore
Anche altre aziende, come OpenAI, stanno esplorando soluzioni simili per tracciare i contenuti AI. In Cina, le normative impongono già l’inserimento di watermark nei testi generati, e la California sta considerando l’adozione di obblighi simili. Con queste iniziative, l’industria si muove verso una maggiore trasparenza nell’uso delle tecnologie AI.
Articoli simili
Bruxelles contesta l'autopreferenza su Search e i vincoli allo steering su Play: 890 milioni di euro complessivi, sessanta giorni per rimuovere le condotte e il…
Google potenzia Gemini: arriva la musica generata con Lyria 3
Crescono le funzioni creative dell’assistente AI: brani su richiesta, integrazione con YouTube e strumenti per tracciare i contenuti generati artificialmente
Pagamenti contactless e paure digitali: quanto è reale il rischio del “furto invisibile”
Tra video virali e racconti allarmistici, il presunto “furto 2.0” con Pos nascosti alimenta paure diffuse. Ma la tecnologia NFC, i sistemi di sicurezza e…
