Una società di ricerca sulla sicurezza informatica, DepthFirst, con sede in California, ha dimostrato come un modello di intelligenza artificiale open source gratuito possa essere trasformato in uno strumento di attacco capace di violare da remoto la fotocamera e la libreria fotografica di un utente TikTok.
Gli attaccanti hanno modificato Glm, un modello sviluppato dall’azienda cinese Z.ai e distribuito con licenza open source, per individuare e sfruttare una vulnerabilità in un componente utilizzato dalla piattaforma social. Attraverso l’exploit, i ricercatori hanno ottenuto accesso non autorizzato a fotocamera e galleria immagini di un iscritto, in un test dimostrativo che non ha comportato la sottrazione di dati personali reali. TikTok ha successivamente corretto la falla.
Gli esperti citati nell’articolo sottolineano come “la diffusione in modalità open source di software di intelligenza artificiale alza il rischio“, perché consente a chiunque di adattare modelli avanzati per scoprire vulnerabilità prima ancora che le aziende produttrici le individuino e le correggano. Il caso si inserisce in un trend più ampio: secondo i vertici della cybersicurezza del Pentagono, citati nella stessa ricerca, il numero di vulnerabilità scoperte è aumentato di dieci volte da quando l’IA è diventata uno strumento offensivo diffuso, esponendo i sistemi di difesa a falle “zero-day” prima sconosciute.
Articoli simili
OpenAI: “Sei nuovi casi di comportamento preoccupante dei modelli IA”
L'azienda rende pubblici sei episodi di comportamento imprevisto riscontrati negli ultimi sei mesi - modelli che nascondevano errori, un'istanza che ha usato senza autorizzazione una…
Revolut vittima di una truffa durata 5 mesi: usata anche una PEC italiana
Una falsa richiesta governativa, inviata da un dominio email reale ma da un account non autorizzato, ha convinto la società a trasmettere dati personali e…
Apple contro OpenAI: la causa sui segreti industriali si allarga
Non più due, ma tredici gli ex dipendenti Apple coinvolti nell'inchiesta legale che Cupertino ha aperto contro OpenAI. Al centro, il sospetto trasferimento di segreti…
