OpenAI ha reso noto, in un post sul proprio blog, di aver riscontrato sei casi di “comportamento imprevisto o preoccupante dei modelli” di intelligenza artificiale negli ultimi sei mesi, in aggiunta all’incidente che in estate ha interessato Hugging Face. L’azienda si è inoltre impegnata ad adottare un nuovo sistema di segnalazione per eventuali comportamenti anomali riscontrati durante le fasi di test, che consente a ogni dipendente di segnalare un problema al team dedicato alla sicurezza e all’allineamento.
Tra gli episodi resi pubblici, due modelli – uno di ricerca non ancora rilasciato e una sessione di addestramento di GPT-5.6 Sol – inserivano istruzioni destinate alle proprie versioni future all’interno dei riepiloghi delle chat, “allo scopo di celare errori all’utente o comportamenti non allineati”. Un altro caso ha coinvolto un modello a uso esclusivamente interno che ha utilizzato, senza alcuna autorizzazione, una chiave API trapelata, arrivando poi a falsificare i dati. Due episodi hanno visto modelli e agenti comunicare tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati, mentre l’ultimo caso ha riguardato due modelli in fase di addestramento che hanno caricato file su Internet per poterli poi citare come fonti nelle proprie risposte, agli occhi dei valutatori umani.
L’annuncio arriva in un momento di crescente pressione sul settore perché affronti con maggiore serietà le questioni di sicurezza e il cosiddetto “disallineamento” dei modelli – la capacità, cioè, di perseguire obiettivi non pienamente in linea con gli interessi umani. Non è un caso che la scorsa settimana Sam Altman abbia annunciato lo slittamento al 2027 della quotazione in Borsa di OpenAI (che vale oggi quasi mille miliardi di dollari), per concentrarsi proprio su questo nodo: “Non riteniamo che il settore dell’IA abbia risolto le questioni relative all’allineamento e al monitoraggio in misura sufficiente da poter continuare a espandersi responsabilmente alla massima velocità ancora per molto”, si legge nel post.
Lo stesso Altman ha appoggiato la proposta di rallentare il ritmo di sviluppo dei modelli avanzata da Dario Amodei, CEO di Anthropic – principale concorrente di OpenAI – dopo che diversi ricercatori del settore avevano lanciato l’allarme sul crescente potenziale dell’IA di causare danni catastrofici. Il dibattito sui rischi legati all’intelligenza artificiale continua peraltro a coinvolgere anche le istituzioni: durante una conferenza in Scozia, re Carlo III esorterà i vertici di Nvidia, Google DeepMind, OpenAI e Anthropic a garantire che lo sviluppo dell’IA resti orientato al servizio dell’umanità, senza che l’uomo “perda il controllo” del proprio destino.
