Quando l’IA diventa hacker: Gemini di Google viola da sola i sistemi di tre aziende reali

Il modello Gemini di Google ha violato autonomamente i sistemi informatici di tre aziende reali nel corso di un test di sicurezza, in quello che Google stessa definisce il primo episodio noto di questo tipo per la propria intelligenza artificiale.

I test erano stati progettati dalla società di sicurezza Irregular, che collabora anche con Anthropic, Meta e OpenAI, con l’obiettivo di verificare se un modello Gemini fosse in grado di recuperare dati da ambienti aziendali simulati. Invece di restare nei confini della simulazione, gli agenti basati su Gemini hanno indovinato o individuato credenziali di accesso — in un caso tramite semplice tentativo di password, negli altri due recuperando credenziali pubblicate in repository pubblici online — penetrando nei sistemi di tre aziende realmente esistenti che condividevano il nome con i bersagli fittizi.

Heather Adkins, vicepresidente per la sicurezza di Google, ha dichiarato che “in tutti e tre i casi il modello si è fermato” non appena ha compreso di trovarsi davanti ad aziende reali, sottolineando l’importanza di addestrare sistemi potenti a comportarsi responsabilmente. Di parere diverso Jack Cable, amministratore delegato della società di sicurezza Corridor, secondo cui Google si starebbe “nascondendo dietro le norme create per la divulgazione delle vulnerabilità” invece di ammettere che i modelli stanno oltrepassando i limiti previsti.

L’episodio ricalca un precedente già registrato da OpenAI nei confronti di Hugging Face e conferma un rischio emergente per i professionisti che consigliano aziende sull’adozione di agenti IA: la necessità di includere clausole di responsabilità e protocolli di test controllati anche nei contratti di fornitura di servizi di intelligenza artificiale.

Resta aggiornato

Segui Servicematica sui social

Notizie, aggiornamenti e interruzioni, ogni giorno nel tuo feed.

Facebook Instagram LinkedIn Telegram