Anthropic ha aggiornato la propria politica d’uso di Claude introducendo, per la prima volta in modo esplicito, il divieto per gli utenti di insultare o maltrattare sistematicamente il chatbot. In caso di comportamento abusivo persistente, Claude può interrompere la conversazione, che resta la principale misura prevista. L’azienda non ha chiarito se in futuro introdurrà anche il blocco dell’account. La regola si applica soltanto ai casi estremi e non riguarda chi esprime insoddisfazione, scrive contenuti creativi dai toni cupi o testa e studia il modello.
La novità segue l’annuncio dell’agosto 2025, quando Anthropic aveva comunicato la possibilità per alcune versioni di Claude di terminare conversazioni caratterizzate da comportamenti persistentemente dannosi o abusivi, nell’ambito della ricerca sul cosiddetto «benessere del modello». L’azienda precisa di non avere certezze sul fatto che i sistemi di intelligenza artificiale possano avere esperienze soggettive: la misura viene quindi presentata come un approccio prudenziale, non come il riconoscimento di una coscienza del chatbot.
L’aggiornamento introduce anche altre modifiche rilevanti. Sul fronte della disinformazione, un unico divieto copre ora le campagne commerciali o politiche ingannevoli, incluso l’occultamento del reale autore di un messaggio e l’amplificazione artificiale della diffusione attraverso account falsi. In materia elettorale sono vietati l’inganno degli elettori, la diffusione di informazioni false su candidati e procedure di voto, l’impersonificazione di funzionari elettorali e le attività volte a scoraggiare l’affluenza.
Sulle armi, il divieto si estende a software e componenti che contribuiscono al funzionamento degli armamenti, oltre che all’equipaggiamento di droni e veicoli autonomi per finalità di combattimento. La modifica arriva dopo tentativi segnalati di utilizzare Claude per sviluppare strumenti di controllo delle armi e punta a limitare non soltanto la costruzione materiale degli armamenti, ma anche le tecnologie che ne rendono possibile l’impiego.
Per quanto riguarda la sorveglianza, è vietato il tracciamento di persone senza consenso, sia in tempo reale sia attraverso l’analisi di dati già esistenti. Claude non può essere utilizzato per decidere chi indagare, arrestare o incriminare, né per sviluppare strumenti di sorveglianza. Restano invece possibili alcuni impieghi legittimi, come il rilevamento delle frodi e la moderazione dei contenuti, nel rispetto delle condizioni previste dalla policy.
Regole più precise per un’IA sempre più potente
Secondo Anthropic, le modifiche servono soprattutto a chiarire i limiti già previsti e ad adattarli alle capacità crescenti dei modelli. Il nuovo testo affronta infatti rischi che vanno dalla manipolazione dell’opinione pubblica all’impiego militare e al controllo delle persone.
Resta da capire come verranno applicate concretamente le nuove disposizioni e quali criteri consentiranno di distinguere una critica legittima da un comportamento abusivo. Il punto centrale, tuttavia, è più ampio: con l’evoluzione dell’intelligenza artificiale, le aziende non sono chiamate soltanto a migliorare le prestazioni dei propri sistemi, ma anche a definire con maggiore precisione i limiti del loro utilizzo e le responsabilità degli utenti.
