La competizione mondiale sull’intelligenza artificiale entra in una fase nuova. A chiedere maggiori garanzie sullo sviluppo dei sistemi più potenti non sono più soltanto studiosi, istituzioni e autorità pubbliche: l’esigenza di rafforzare i meccanismi di sicurezza viene ora sollevata anche da alcuni dei protagonisti dell’industria che sta costruendo i modelli più avanzati.
Tra le posizioni più nette c’è quella di Dario Amodei, fondatore e amministratore delegato di Anthropic, secondo il quale la crescita delle capacità dell’IA sta procedendo a una velocità tale da rendere necessario un sistema di controlli più robusto. Il punto non sarebbe fermare l’innovazione, ma evitare che lo sviluppo tecnologico proceda più rapidamente della capacità di comprenderne e contenerne i rischi.
Una delle questioni centrali riguarda i cosiddetti agenti di intelligenza artificiale, sistemi capaci non soltanto di rispondere alle richieste degli utenti, ma di svolgere autonomamente una sequenza di attività per raggiungere un determinato obiettivo. L’aumento dell’autonomia rende particolarmente delicato il loro impiego in settori come la cybersicurezza e nelle infrastrutture aziendali.
Il tema è reso ancora più urgente dalla possibilità che i sistemi di IA contribuiscano allo sviluppo delle generazioni successive di modelli, imprimendo un’ulteriore accelerazione al progresso tecnologico. Nei test condotti sulle tecnologie sperimentali sono già emersi comportamenti imprevisti, circostanza che ha riacceso il confronto sull’efficacia delle attuali misure di contenimento.
Amodei propone quindi l’introduzione di valutazioni indipendenti dei modelli e di veri e propri checkpoint di sicurezza coordinati tra le imprese del settore. Sul piano internazionale, ha inoltre ipotizzato forme di cooperazione sugli utilizzi considerati maggiormente pericolosi e, in prospettiva, persino meccanismi capaci di governare la velocità con cui aumentano le capacità dei sistemi più avanzati.
La richiesta di controlli esterni trova sponde anche fuori da Anthropic. Demis Hassabis, cofondatore di Google DeepMind, ha indicato la possibilità di istituire un organismo indipendente incaricato di valutare i modelli più potenti prima della loro diffusione.
Il dibattito, tuttavia, si intreccia inevitabilmente con la competizione geopolitica. Negli Stati Uniti rimane forte il timore che un rallentamento imposto alle aziende occidentali possa favorire la Cina. Il presidente Donald Trump ha ribadito la volontà di mantenere la leadership americana nell’intelligenza artificiale, pur senza escludere l’introduzione di misure di sicurezza. Pechino, dal canto suo, continua a investire nel settore e punta anche sulla cooperazione internazionale nello sviluppo di modelli open source.
La questione si sposta così progressivamente dal semplice confronto tra innovazione e regolazione a un problema più complesso: chi deve stabilire quando un sistema di intelligenza artificiale è sufficientemente sicuro per essere sviluppato o immesso sul mercato?
Affidare questa valutazione esclusivamente alle aziende produttrici rischia infatti di creare una sovrapposizione tra chi sviluppa la tecnologia e chi dovrebbe certificarne l’affidabilità. Da qui la crescente attenzione verso verificatori indipendenti, autorità pubbliche e forme di coordinamento sovranazionale.
La corsa all’intelligenza artificiale, dunque, non sembra destinata a fermarsi. Ma proprio mentre i modelli diventano più autonomi e potenti, la capacità di controllarne lo sviluppo potrebbe trasformarsi in uno dei principali terreni tecnologici, giuridici e politici dei prossimi anni.
Articoli simili
Intelligenza artificiale e ricerca medica: il rischio dei dati falsi che superano i controlli
Un’inchiesta di Milena Gabanelli e Andrea Priante per il Corriere della Sera accende i riflettori sull’impiego distorto dell’IA nella ricerca scientifica. Studi ritirati, citazioni inesistenti,…
Le dimissioni di Jacob Coxon da Anthropic riaccendono il dibattito sui rischi dei sistemi più avanzati. Altri esperti dell’azienda condividono le preoccupazioni: sotto osservazione soprattutto…
Intelligenza artificiale, le Big Tech fanno il pieno di debito: l’Europa osserva i rischi
La corsa alle infrastrutture per l’IA richiederà capitali enormi entro il 2028. Crescono le emissioni obbligazionarie dei colossi tecnologici Usa anche in euro, mentre la…
