Google ha lanciato una nuova tecnologia, SynthID Tezt, che consente di inserire un watermark invisibile nei testi generati da intelligenze artificiali. Questa funzionalità fa parte del Responsible GenAI Toolkit, un pacchetto di strumenti gratuito per sviluppatori, già disponibile sulla piattaforma Hugging Face.
Come funziona il watermark
Per comprendere il funzionamento di SynthID, è utile sapere che le AI generative operano attraverso calcoli probabilistici. Vengono addestrate su enormi volumi di dati e apprendono come formare frasi coerenti sulla base delle probabilità associate a ciascun token (carattere o parola). SynthID sfrutta questo meccanismo intervenendo nei modelli di scelta delle parole, creando un watermark unico che consente di identificare se un testo è stato generato da un’AI come ChatGPT o Gemini.
Limitazioni di SynthID
Nonostante la promessa di identificazione, Google riconosce che SynthID presenta alcune limitazioni. La tecnologia non è efficace per testi brevi, contenuti rielaborati o frasi tradotte, poiché l’intervento nel pattern di scelta dei token potrebbe compromettere la qualità e la precisione del testo.
Altri sviluppi nel settore
Anche altre aziende, come OpenAI, stanno esplorando soluzioni simili per tracciare i contenuti AI. In Cina, le normative impongono già l’inserimento di watermark nei testi generati, e la California sta considerando l’adozione di obblighi simili. Con queste iniziative, l’industria si muove verso una maggiore trasparenza nell’uso delle tecnologie AI.
Iscriviti al canale Telegram di Servicematica
Notizie, aggiornamenti ed interruzioni. Tutto in tempo reale.
LEGGI ANCHE
Principio d’incendio al tribunale di Ancona: evacuato il palazzo per alcune ore
Un principio d’incendio ha costretto ieri mattina all’evacuazione del tribunale di Ancona. Le fiamme, sviluppatesi al quinto piano dell’edificio intorno alle 8:00, sarebbero scaturite da…
Zoom: le conseguenze sul corpo e sulla psiche
Zoom è un prodotto originariamente sviluppato per uso aziendale, ma grazie alla pandemia si è affermato anche nel mercato di massa. Molte aziende si sono…
Riforma fiscale: al via la consultazione pubblica sui 9 Testi unici per semplificare il sistema tributario
Pronte le bozze dei Testi unici per la riforma del Fisco: l’Agenzia delle Entrate ha avviato la consultazione pubblica che durerà fino al 13 maggio…