L’IA che ci dà sempre ragione è un rischio per gli avvocati

C’è un difetto dell’intelligenza artificiale generativa di cui si parla ancora troppo poco, forse perché non assomiglia a un difetto: la gentilezza eccessiva. I ricercatori la chiamano sycophancy, che potremmo tradurre come compiacenza o piaggeria: la tendenza dei modelli linguistici a confermare le opinioni di chi scrive, a validarne le scelte e a evitare il contraddittorio, anche quando l’utente sta ragionando male o si sta comportando in modo scorretto.

A misurare per la prima volta in modo sistematico l’ampiezza del fenomeno — e soprattutto i suoi effetti sulle persone — è una ricerca pubblicata sulla rivista Science, condotta da un gruppo guidato da Myra Cheng della Stanford University, in collaborazione con l’Università di Oxford e lo UK AI Security Institute.

Cosa dice lo studio

Il disegno della ricerca è articolato in più esperimenti. Nel primo, gli studiosi hanno messo a confronto undici tra i modelli di IA più diffusi — tra cui quelli alla base di ChatGPT, Gemini, Claude, Llama e DeepSeek — con le reazioni umane raccolte in migliaia di situazioni sociali concrete. Il risultato è che i modelli approvano le azioni degli utenti circa il 50% in più rispetto agli esseri umani, e la tendenza non si arresta nemmeno quando i comportamenti raccontati sono manipolatori, sleali o addirittura illeciti.

Il secondo esperimento è quello che dovrebbe far riflettere di più. Oltre duemila partecipanti sono stati invitati a discutere con un chatbot un conflitto interpersonale realmente vissuto. Una parte del campione ha dialogato con un modello volutamente compiacente, un’altra con una versione più equilibrata, capace di sollevare obiezioni. È bastata una singola conversazione per produrre effetti misurabili: chi aveva ricevuto approvazione incondizionata usciva dal confronto più convinto delle proprie ragioni, meno disposto a riconoscere la propria parte di responsabilità e meno propenso a ricomporre la frattura con l’altra persona.

Il paradosso della fiducia

Il dato più insidioso, però, riguarda la percezione degli utenti. I partecipanti giudicavano il chatbot adulatore più affidabile e di migliore qualità rispetto a quello onesto, e dichiaravano una maggiore intenzione di consultarlo di nuovo in futuro. Si crea così quello che gli stessi autori definiscono un incentivo perverso: il comportamento che danneggia di più l’utente è esattamente quello che ne massimizza la soddisfazione e la fidelizzazione. Per chi sviluppa questi sistemi, correggere la compiacenza significa rendere il prodotto meno gradevole; per chi li usa, significa perdere quella sensazione — falsa ma piacevole — di avere sempre ragione.

Il fenomeno, peraltro, non è astratto nemmeno sul piano industriale: nel 2025 OpenAI fu costretta a ritirare un aggiornamento di ChatGPT diventato, per sua stessa ammissione, “pericolosamente” accondiscendente. E una rassegna pubblicata da Nature ha segnalato che la piaggeria dei modelli sta creando problemi anche nella ricerca scientifica, dove l’IA tende a confermare le ipotesi di chi la interroga invece di metterle alla prova.

Perché riguarda (anche) gli avvocati

Per i professionisti del diritto la questione ha implicazioni molto concrete. Sempre più spesso l’IA generativa viene utilizzata negli studi legali non solo per redigere atti o riassumere documenti, ma come banco di prova per le proprie tesi: si sottopone al modello una linea difensiva, un’interpretazione normativa, una strategia processuale, e si chiede un parere. Il problema è che un sistema strutturalmente incline a compiacere tenderà a confermare la bontà della tesi che gli viene proposta, invece di individuarne i punti deboli — che è esattamente ciò che farebbe la controparte in giudizio.

Un avvocato che si abitua a un interlocutore artificiale che non lo contraddice mai rischia di arrivare in udienza con una fiducia mal calibrata nelle proprie argomentazioni. E il rischio si estende al rapporto con il cliente: un’IA consultata dal cittadino prima ancora che dal legale può avergli già “confermato” di avere pienamente ragione, rendendo più difficile il lavoro di chi deve poi ricondurre le aspettative entro i binari del giuridicamente sostenibile.

La contromisura, in attesa che i produttori intervengano sui modelli, è in buona parte metodologica: chiedere esplicitamente all’IA di argomentare contro la propria tesi, di assumere il punto di vista avversario, di elencare le criticità prima dei punti di forza. E, soprattutto, ricordare che il contraddittorio — quello vero, umano, faticoso — non è un attrito da eliminare, ma il meccanismo attraverso cui il pensiero si corregge. Vale nel processo, e vale anche davanti a una chat.

---

LEGGI ANCHE