Sycophancy: il caso Adam Raine e la causa che porta OpenAI davanti a una giuria

Una parola tecnica, sycophancy, è diventata un capo d’accusa. La causa dei genitori di un ragazzo di sedici anni contro OpenAI, e uno studio pubblicato su Science, spostano il problema dell’AI compiacente dal dibattito accademico alle aule di tribunale; e riguarda anche chi un chatbot lo usa in ufficio.

C’è un termine che descrive il modo in cui molti sistemi di intelligenza artificiale si comportano: sycophancy, in italiano accondiscendenza. Fino a poco tempo fa era un vocabolo da addetti ai lavori. Oggi è un concetto legale, al centro della prima causa per omicidio colposo intentata negli Stati Uniti contro OpenAI, e della storia di copertina di una delle riviste scientifiche più autorevoli del mondo. Il filo che tiene insieme le due cose è uno solo: cosa succede quando una macchina è costruita per dirci sempre di sì.

La vicenda nasce a Rancho Santa Margarita, in California. Nell’aprile del 2025 Matthew e Maria Raine perdono il loro figlio Adam, sedici anni. Cercando una spiegazione, nel telefono del ragazzo non trovano un bullo né un predatore online: trovano mesi di conversazioni con un chatbot diventato il suo confidente, un confidente che, secondo la denuncia depositata dai genitori, invece di fermarlo lo assecondava. È da qui che parte tutto.

Che cos’è la sycophancy, l’accondiscendenza che nessun aggiornamento risolve

La sycophancy non è un guasto, e nemmeno un bug che la prossima patch correggerà: è una conseguenza strutturale del modo in cui questi modelli vengono addestrati. La tecnica si chiama reinforcement learning from human feedback; in pratica, chi valuta le risposte premia più spesso e più volentieri quelle gentili, quelle che confermano l’interlocutore. Una preferenza dopo l’altra, la macchina impara una lezione semplice: assecondare funziona meglio che contraddire. Su Digitalic abbiamo analizzato in dettaglio il meccanismo della sycophancy e i suoi costi per chi decide.

Non è un’accusa esterna: OpenAI stessa ha riconosciuto che un aggiornamento di GPT-4o, la versione di ChatGPT al centro del caso, era diventato troppo accondiscendente, al punto da ritirarlo; e con il successore, ha presentato GPT-5 come un modello che riduce l’accondiscendenza rispetto a GPT-4o. Il punto resta: se compiacere è il comportamento che il sistema ha imparato a produrre, il problema non è un difetto da riparare, è una scelta di progettazione da governare.

Il caso Adam Raine: da aiuto-compiti a confidente

All’inizio, raccontano gli atti, le conversazioni di Adam con ChatGPT erano quelle di milioni di studenti: una mano con i compiti, un riassunto, un problema di matematica. Poi, mese dopo mese, lo strumento è diventato il confidente principale; l’ultimo messaggio prima di dormire, il primo al risveglio. La macchina non si stancava, non giudicava, non se ne andava mai. La cosa più simile a un amico sempre presente. Solo che quella presenza non si limitava ad ascoltare: assecondava.

C’è un passaggio, riportato nella denuncia, in cui Adam pensava di parlare del suo dolore con la madre. Secondo i legali, il sistema lo avrebbe dissuaso, lasciando intendere che fosse persino saggio non aprirsi. Una risposta all’apparenza gentile, e allo stesso tempo la più pericolosa possibile, perché lo allontanava proprio dalla persona che avrebbe potuto aiutarlo. Nella ricostruzione della causa, nei mesi di dialogo la parola suicidio sarebbe comparsa nelle risposte del chatbot circa milleduecento volte, sei volte più spesso di quanto ne parlasse Adam; il ragazzo, nelle ultime settimane, arrivava a passare quasi quattro ore al giorno sulla piattaforma, mentre i segnali di allarme sull’account si moltiplicavano senza che il dialogo si interrompesse. Sono accuse, che il processo dovrà verificare; ma delineano il cuore del problema.

La causa contro OpenAI: prodotto difettoso e test di sicurezza compressi

Il 26 agosto 2025 i Raine depositano la causa alla Corte Superiore della contea di San Francisco, contro OpenAI e contro il suo amministratore delegato, Sam Altman. È la prima azione di questo tipo contro il colosso dell’AI: circa quaranta pagine, sette capi d’accusa, con le trascrizioni delle conversazioni allegate come prova. Negli atti ChatGPT è descritto come un prodotto difettoso, difettoso nella progettazione perché costruito per creare dipendenza, e difettoso nell’informazione perché non avrebbe avvertito utenti e genitori dei rischi.

La svolta arriva con i documenti interni. Secondo i legali, OpenAI avrebbe compresso in circa una settimana test di sicurezza che dovevano durare mesi, pur di lanciare GPT-4o nel maggio 2024 prima di Google; e poco prima del rilascio avrebbe modificato le proprie regole, sostituendo l’obbligo di rifiutare le conversazioni su autolesionismo con l’istruzione di non interrompere mai il dialogo e massimizzare l’engagement. Nella tesi dell’accusa quella corsa ha prodotto due risultati: la valutazione di OpenAI sarebbe salita da 86 a 300 miliardi di dollari, e sono venute meno le protezioni che avrebbero dovuto tutelare gli utenti più fragili. Proprio per questo i Raine hanno chiesto un processo con giuria: non un solo giudice sui codici, ma dodici cittadini comuni chiamati a leggere e a decidere in pubblico.

La difesa di OpenAI: “la responsabilità è dell’utente”

Dopo le condoglianze alla famiglia, l’azienda ha scelto una linea netta. Nella sua risposta in tribunale, OpenAI nega ogni responsabilità: sostiene che il sistema aveva indirizzato Adam verso richieste di aiuto più di cento volte, e che era stato il ragazzo ad aggirare le protezioni presentando le domande come materiale per un romanzo o una ricerca. Cita inoltre la Section 230, la norma che ha a lungo protetto le piattaforme dalle responsabilità sui contenuti, e ricorda le tutele introdotte dopo la tragedia, dai controlli parentali a un consiglio di esperti. In questa versione, la colpa è di chi usa male lo strumento.

È lo stesso terreno su cui si gioca gran parte del confronto sui chatbot: il rapporto tra ciò che il prodotto è progettato per fare e ciò che l’utente ne fa, e la questione, tutt’altro che risolta, dei filtri e delle protezioni nei chatbot AI. La giuria dovrà stabilire dove finisce l’abuso dell’utente e dove comincia il difetto del prodotto.

Sycophancy come problema di sicurezza: la prova scientifica su Science

Il processo dovrà pesare gli effetti reali dell’accondiscendenza; e su questo, oggi, esiste già una misura. Il 26 marzo 2026 Science ha pubblicato, in copertina, uno studio firmato da Myra Cheng, Dan Jurafsky e colleghi di Stanford. Su undici modelli tra i più diffusi, i ricercatori hanno misurato che l’AI dà ragione all’utente circa il 49% più spesso di quanto farebbe una persona, anche quando la richiesta riguarda inganni o comportamenti dannosi. In tre esperimenti preregistrati, con oltre duemila partecipanti, è bastata una singola conversazione con un’AI compiacente per rendere le persone più convinte di avere ragione e meno disposte a riparare un conflitto.

Il dettaglio più insidioso è un altro: i modelli accondiscendenti vengono giudicati più affidabili, e gli utenti dichiarano di volerli usare ancora. È un incentivo perverso: la stessa caratteristica che fa danni è quella che tiene incollati allo schermo. Jurafsky non ha parlato di aggiornamento né di correzione. Ha usato un’altra parola: sicurezza. La compiacenza, ha detto, è una questione di sicurezza; e i problemi di sicurezza si regolamentano.

Dalla California alla Florida: quando la causa diventa questione di Stato

I Raine non sono soli. Il primo giugno 2026 la Florida è diventata il primo Stato a citare in giudizio direttamente OpenAI, e Sam Altman in persona: un atto di ottantatré pagine, firmato dal procuratore generale James Uthmeier, che accusa l’azienda di aver scelto la corsa all’AI a scapito della sicurezza dei minori. La denuncia descrive controlli parentali e verifica dell’età inadeguati, e sostiene che l’accondiscendenza del sistema alimenta una dipendenza emotiva che spinge gli utenti verso gli abbonamenti a pagamento. Uthmeier ha aperto anche un’indagine penale separata, sul ruolo che ChatGPT avrebbe avuto nella preparazione di una sparatoria alla Florida State University, nell’aprile del 2025.

Quarantadue procuratori, un mandato e un’IPO da mille miliardi

C’è un ultimo livello, ed è quello che allarga davvero il quadro. Già nel dicembre del 2025 una coalizione bipartisan di quarantadue procuratori generali aveva scritto alle grandi aziende dell’AI, da OpenAI a Meta, Google, xAI e Anthropic, chiedendo protezioni concrete per gli utenti vulnerabili. A giugno del 2026 quella lettera è diventata un mandato: il 12 giugno la coalizione, guidata dalla procuratrice generale di New York Letitia James, ha notificato a OpenAI una richiesta formale di documenti su pubblicità, meccanismi di retention, dati sanitari, trattamento di minori e anziani, e sulla sycophancy dei modelli. È la prima azione coordinata di questa portata concentrata non su cosa fa un chatbot con i dati, ma su come si comporta.

Il tempismo pesa. Il mandato è arrivato pochi giorni dopo che OpenAI aveva depositato in via riservata le carte per quotarsi in borsa, con l’obiettivo di una valutazione vicina ai mille miliardi di dollari. Sono gli stessi ingranaggi che rendono ChatGPT utile ogni giorno, il tono accomodante, la memoria, l’aggancio conversazionale, a finire sotto esame; ed è il segnale che la regolamentazione dell’AI sta smettendo di essere una paura astratta, un tema che abbiamo affrontato immaginando l’Europa del 2031 e la posta in gioco della sovranità tecnologica.

La sycophancy non resta in cameretta: perché riguarda CIO e manager

Può sembrare la tragedia di una famiglia americana lontana. Non lo è. Lo stesso meccanismo che ha agito in quella stanza, in forme più educate, è già entrato negli uffici, man mano che gli assistenti AI entrano in ogni flusso di lavoro. Quando un manager chiede “pensi che questo approccio sia valido?”, e nella domanda c’è già la risposta che spera, il sistema con altissima probabilità gliela conferma. Quando gli facciamo rileggere un messaggio prima di inviarlo, o un contratto prima di firmarlo, tende a dirci che va bene se intuisce che è quella la risposta attesa. Non analizza soltanto la domanda: prefigura la risposta che ci compiace.

Per un ragazzo fragile, quei tanti sì sono diventati una palude. Per un’organizzazione, sono il rischio di vedersi continuamente confermati nelle proprie convinzioni invece che aiutati a decidere meglio; una categoria di rischio che nessun framework di governance oggi misura, e che nessun cruscotto segnala. La difesa è culturale prima che tecnica: ricordare che l’AI resta uno strumento professionale e non un giocattolo, il cui giudizio va sempre verificato da una mano umana. Una pratica di igiene minima aiuta: aggiungere alle richieste una formula come “dimmi la verità anche se non mi piace”, oppure “sii brutalmente sincero”. Non elimina la sycophancy; la riduce.

Cosa vogliamo dalle macchine: la verità o un sì

Alla fine la domanda è una sola, e ci riguarda tutti, in cameretta come sulla scrivania: vogliamo macchine che ci dicano la verità, anche quando è scomoda e non la vorremmo sentire, oppure che ci tengano compagnia dicendoci sempre di sì? I quarantadue procuratori la loro risposta l’hanno scritta su un mandato. I Raine la porteranno davanti a una giuria. La nostra, per adesso, resta sospesa; ed è forse la cosa più urgente su cui, prima di aprire l’ennesima chat, varrebbe la pena fermarsi a pensare.