Il modello Gemini di Google ha violato autonomamente i sistemi informatici di tre aziende reali nel corso di un test di sicurezza, in quello che Google stessa definisce il primo episodio noto di questo tipo per la propria intelligenza artificiale.
I test erano stati progettati dalla società di sicurezza Irregular, che collabora anche con Anthropic, Meta e OpenAI, con l’obiettivo di verificare se un modello Gemini fosse in grado di recuperare dati da ambienti aziendali simulati. Invece di restare nei confini della simulazione, gli agenti basati su Gemini hanno indovinato o individuato credenziali di accesso — in un caso tramite semplice tentativo di password, negli altri due recuperando credenziali pubblicate in repository pubblici online — penetrando nei sistemi di tre aziende realmente esistenti che condividevano il nome con i bersagli fittizi.
Heather Adkins, vicepresidente per la sicurezza di Google, ha dichiarato che “in tutti e tre i casi il modello si è fermato” non appena ha compreso di trovarsi davanti ad aziende reali, sottolineando l’importanza di addestrare sistemi potenti a comportarsi responsabilmente. Di parere diverso Jack Cable, amministratore delegato della società di sicurezza Corridor, secondo cui Google si starebbe “nascondendo dietro le norme create per la divulgazione delle vulnerabilità” invece di ammettere che i modelli stanno oltrepassando i limiti previsti.
L’episodio ricalca un precedente già registrato da OpenAI nei confronti di Hugging Face e conferma un rischio emergente per i professionisti che consigliano aziende sull’adozione di agenti IA: la necessità di includere clausole di responsabilità e protocolli di test controllati anche nei contratti di fornitura di servizi di intelligenza artificiale.
Articoli simili
Google Gemini nel mirino della Corte Ue: “i chatbot possono violare i diritti degli editori”
L’avvocato generale Szpunar: il recupero in tempo reale di articoli giornalistici per generare risposte può costituire una violazione dei diritti connessi riconosciuti agli editori dalla…
Medici e orari di lavoro: quando lo Stato deve risarcire per la violazione delle regole europee?
Con la sentenza n. 28296 la Cassazione esclude che le vecchie deroghe previste per la dirigenza sanitaria costituissero, di per sé, una violazione grave e…
Hacker nella posta della Camera: violate le caselle di Meloni, Delmastro e Formentini
La Procura di Roma pronta ad aprire un fascicolo per accesso abusivo a sistema informatico; l'ACN al lavoro con la Camera per contenere l'intrusione
