Intelligenza artificiale, l’allarme arriva dai ricercatori: «La corsa alla superintelligenza è troppo veloce»

Le dimissioni di Jacob Coxon da Anthropic riaccendono il dibattito sui rischi dei sistemi più avanzati. Altri esperti dell’azienda condividono le preoccupazioni: sotto osservazione soprattutto la possibilità di sviluppare modelli capaci di migliorarsi autonomamente

Il dibattito sui rischi dell’intelligenza artificiale torna ad accendersi, questa volta per iniziativa di chi quei sistemi contribuisce direttamente a svilupparli.

Jacob Coxon, giovane ricercatore con esperienze professionali sia in Anthropic sia in OpenAI, ha lasciato il proprio incarico accompagnando la decisione con un duro intervento pubblico. Al centro delle sue preoccupazioni c’è la velocità con cui le principali aziende del settore stanno cercando di costruire sistemi sempre più potenti, fino alla prospettiva di una superintelligenza capace di migliorare autonomamente le proprie prestazioni.

Secondo Coxon, l’attuale competizione tecnologica non sarebbe accompagnata da misure di sicurezza proporzionate alle conseguenze potenziali. Il ricercatore sostiene inoltre che, all’interno delle società impegnate nello sviluppo dei modelli più avanzati, la possibilità di conseguenze estremamente gravi sarebbe discussa con maggiore preoccupazione di quanto emerga generalmente nella comunicazione pubblica.

A rendere la vicenda particolarmente significativa sono gli interventi di altri ricercatori di Anthropic.

Evan Hubinger, che lavora sui problemi legati all’allineamento dei sistemi di intelligenza artificiale agli obiettivi e ai valori umani, ha affermato pubblicamente di considerare concreto il rischio che tecnologie future possano produrre conseguenze catastrofiche. Una posizione analoga è stata espressa da Samuel Marks, impegnato nello studio delle tecniche necessarie a controllare e valutare modelli sempre più complessi.

Non si tratta, dunque, soltanto della presa di posizione isolata di un ex dipendente. Le dichiarazioni mostrano come il problema della sicurezza dei sistemi avanzati sia oggetto di un confronto molto acceso anche all’interno delle organizzazioni che guidano lo sviluppo dell’AI.

La competizione verso sistemi sempre più autonomi

Il nodo riguarda soprattutto ciò che potrebbe accadere con il progressivo aumento delle capacità dei modelli.

Una cosa è disporre di un’intelligenza artificiale molto potente nell’elaborazione di testi, immagini, software o dati. Altra prospettiva è quella di sistemi dotati di capacità sufficienti per partecipare direttamente al proprio perfezionamento, contribuendo allo sviluppo di modelli successivi sempre più sofisticati.

È proprio l’ipotesi del cosiddetto auto-miglioramento a rappresentare uno degli scenari maggiormente discussi negli studi sulla sicurezza dell’AI.

A complicare il quadro c’è la competizione internazionale. Le aziende statunitensi sono impegnate in una corsa tecnologica tra loro e, contemporaneamente, devono confrontarsi con la rapida crescita dei concorrenti asiatici. In un simile contesto, rallentare unilateralmente lo sviluppo potrebbe significare perdere un vantaggio strategico e commerciale.

Nasce così un problema difficile da risolvere: anche quando gli operatori riconoscono l’esistenza di rischi, ciascuno ha forti incentivi a continuare a investire e accelerare per evitare di essere superato dagli altri.

Dalla sicurezza tecnica alla governance

Le dichiarazioni provenienti dall’interno di Anthropic riportano quindi al centro una questione destinata ad accompagnare l’evoluzione dell’intelligenza artificiale nei prossimi anni: chi stabilisce fino a quale punto sia accettabile spingere le capacità dei modelli e con quali garanzie?

Il problema non riguarda soltanto eventuali scenari estremi. La crescente autonomia dei sistemi pone già interrogativi sulla loro controllabilità, sulla possibilità di verificarne i comportamenti, sulla responsabilità delle aziende che li sviluppano e sulla capacità delle istituzioni di intervenire prima che una tecnologia sia diffusamente utilizzata.

La questione sta assumendo anche una dimensione internazionale. L’Alto Commissario delle Nazioni Unite per i diritti umani, Volker Türk, ha recentemente richiamato gli Stati sulla necessità di affrontare tempestivamente i pericoli associati allo sviluppo dell’intelligenza artificiale, collegando la governance tecnologica alla protezione dei diritti fondamentali.

Anche in Italia il confronto tende sempre più a concentrarsi sul rapporto tra innovazione e centralità della persona. La presidente del Consiglio Giorgia Meloni, intervenendo con un videomessaggio a Forum, ha ribadito la necessità di mantenere lo sviluppo dell’AI al servizio dell’essere umano, richiamando in particolare i possibili effetti sui diritti, sulla dignità individuale e sulla qualità delle democrazie.

La vicenda Coxon, al di là delle valutazioni sulle probabilità degli scenari più estremi evocati dai ricercatori, evidenzia quindi una contraddizione destinata a diventare sempre più rilevante: chi conosce meglio le potenzialità dell’intelligenza artificiale è anche tra coloro che chiedono maggiore attenzione ai suoi rischi, mentre la competizione economica e geopolitica continua a spingere nella direzione opposta, verso modelli sempre più potenti e sviluppati sempre più rapidamente.