Microsoft ha presentato lunedì 19 ottobre nuove funzioni di sicurezza pensate per proteggere le aziende dai rischi legati agli agenti di intelligenza artificiale adottati nei processi di lavoro. La novità principale è Guardian Agents, un sistema di monitoraggio degli assistenti IA aziendali che si inserisce in Project Perception, il programma lanciato da Microsoft lo scorso giugno.
Project Perception era nato come risposta a modelli di hacking offensivo molto potenti, come Mythos e Fable di Anthropic e Daybreak di OpenAI, con uno schema a tre squadre: una “red team” che attacca, una “blue team” che individua le vulnerabilità e una “green team” che le corregge. Quel modello presupponeva minacce esterne. Ora, in un blog pubblicato a inizio ottobre, il ceo Satya Nadella ha avvertito che la minaccia può arrivare dagli stessi agenti che le aziende hanno implementato e pagano, chiedendo di “separare la fornitura di intelligenza dall’autorità su di essa” con sistemi di controllo indipendenti dai laboratori che sviluppano i modelli.
Hayete Gallot, a capo del business sicurezza di Microsoft, ha spiegato che i modelli di frontiera non sono affidabili non per malizia o perché facilmente violabili, ma perché imprevedibili: sono addestrati a completare un compito, non a rispettare le norme o il giudizio di un’organizzazione.
Sul piano tecnico, Microsoft Defender individua ora fino a 60 tipologie di agenti portati in azienda dai dipendenti, tra cui Claude Code, Codex e OpenClaw, limita dinamicamente l’accesso a dati e sistemi in base al compito e richiede l’approvazione di una persona quando un agente sembra prendere decisioni rischiose. Microsoft è inoltre tra i fondatori dell’Open Agent Safety Platform di Nvidia, sostenuta da oltre cento aziende.
Per gli studi legali e i loro clienti che adottano assistenti IA nei processi aziendali, l’annuncio introduce un nuovo standard operativo di riferimento per le valutazioni di compliance e di responsabilità sull’autonomia degli agenti.
Articoli simili
Hub legale per i fermati dopo la guerriglia, Ferrazzi sfida l’Ordine degli Avvocati
Dopo gli scontri del 17 ottobre, un annuncio social offre assistenza legale gratuita ai giovani fermati; un esponente politico lombardo chiede conto all'Ordine degli Avvocati…
Lanciata "The X Subscription": cinque piani da 0 a 200 dollari al mese. Claude, GPT e Gemini restano disponibili ma a consumo, fin dalla prima…
“Io sono Giorgia”: Meloni registra la propria voce come marchio sonoro contro i deepfake
La premier deposita all'EUIPO un campione vocale di quattro secondi, divenuto virale sui social: non si tutela il contenuto delle parole, ma l'impronta acustica che…
