L’intelligenza artificiale non mente: conforma

📑 Indice

1. Primo: il volume come peso
2. Secondo: il lavaggio della provenienza
3. Terzo: il circolo che si stringe
4. Quarto: gli strati sopra la frequenza
5. Intermezzo: una parola ritirata
6. Quinto: la retroazione
7. Cui prodest: cosa si fa con un conio

Atqui nulla res nos maioribus malis implicat
quam quod ad rumorem componimur,
optima rati ea quae magno adsensu recepta sunt.

Nulla ci intrappola in guai peggiori del conformarci alla voce corrente,
ritenendo ottimo ciò che è stato accolto con grande consenso.

— Seneca, De vita beata, I, 3

Lo scrive a Gallione, primo secolo, tre righe dopo aver paragonato gli uomini a un gregge che va non dove si deve andare, ma dove si va.^[1] Non aveva mai visto un data center. Aveva già isolato la parola che conta: recepta. Accolto.

Non vero. Accolto.

Una società quotata pubblica la trimestrale. Ottanta pagine, tabelle, note a piè di pagina — il posto dove le cattive notizie vanno a nascondersi. La leggono in cinquecento.

Lo stesso mattino il suo ufficio stampa manda in giro quattrocento parole che spiegano come va interpretata. Le riprendono le agenzie, i quotidiani, i portali di settore, gli aggregatori, i blog che copiano gli aggregatori.

Sei mesi dopo voi chiedete a un’intelligenza artificiale com’è andato quel trimestre.

Vi risponderà con voce calma e sicura. E non vi dirà mai quale delle due voci sta parlando.

Quello che segue è un meccanismo in cinque movimenti, più la prova che gira davvero. Non è censura, non è propaganda, non è complotto — ed è più efficace di tutti e tre messi insieme, perché nessuno dei tre riesce a farsi obbedire senza farsi vedere.

In fondo c’è la parte scomoda: cosa comporta, per chi produce analisi per mestiere — noi di FINBEAR compresi, con gli stessi strumenti — prendere sul serio questa diagnosi invece di limitarsi a denunciarla.

Primo: il volume come peso

Mettiamo in chiaro cosa fa questa macchina, perché il malinteso fa comodo a parecchi.

Un modello linguistico non sa niente. Ha letto una montagna di testo e ne ha ricavato una cosa sola: quale parola viene dopo. Non la parola giusta — quella statisticamente più probabile.

È un croupier che ha contato le carte,
non un professore che ha studiato la materia.

Abbiamo detto «statisticamente». Quelli bravi direbbero stocasticamente: nel 2021 ci hanno scritto sopra un paper che questi arnesi li chiama proprio «pappagalli stocastici», e a una delle autrici costò il posto in Google. O si dimise, a sentire Google.^[9]

Noi restiamo su «statisticamente», che costa meno.

E adesso guardate chi ha scritto la montagna.

Da una parte un ufficio stampa: stipendi, scrivanie, qualcuno pagato per sfornare quattro comunicati al giorno e duemila indirizzi che li ricevono prima del caffè. Dall’altra uno che ha passato diciotto mesi su una cosa e la pubblica il venerdì sera, perché è l’unico momento che ha libero.

Non stiamo confrontando due tesi. Stiamo confrontando un’industria e un artigiano.

A questo punto un tecnico alza la mano, e ha ragione: i corpus non sono discariche. Nel 2021 qualcuno è andato a guardare dentro C4, uno dei dataset più usati al mondo, e ci ha trovato la stessa frase di sessantuno parole ripetuta 61.036 volte.

Provate a indovinare cosa fosse. Un verso di Dante? Un passaggio della Dichiarazione d’indipendenza? La formula di uno studio clinico contestato, ricopiata da mille articoli?

No.

«by combining fantastic ideas, interesting arrangements, and follow the current trends in the field of that make you more inspired and give artistic touches. We’d be honored if you can apply some or all of these design in your wedding. believe me, brilliant ideas would be perfect if it can be applied in real and make the people around you amazed!»

Non è un errore di trascrizione. È inglese sgangherato per davvero: riempitivo da fabbrica di contenuti su come addobbare un matrimonio.

Il dataset si chiama C4, che sta per Colossal Clean Crawled Corpus. La C in mezzo sta per «pulito», e fra i filtri che gli hanno passato addosso ce n’era uno dichiarato apposta per togliere i riempitivi da modello.

Sessantunomila copie dentro il materiale con cui si insegna a una macchina a parlare. E altre sessantuno dentro i dati con cui poi la si esamina: l’esame lo passa perché ha già visto le domande.

Ripulendo i doppioni, la frequenza con cui i modelli restituivano testo memorizzato alla lettera è crollata di dieci volte.^[2] Ma solo dopo che qualcuno è andato a guardare.

Poi ci si stupisce che ogni tanto sembrino scemi.

Sotto la risata, però, c’è la cosa seria — ed è il motivo per cui in cima a C4 c’è quella frase e non c’è Dante.

È finita lassù perché era scritta apposta per moltiplicarsi. Non è un testo che qualcuno ha voluto dire: è un testo fabbricato in serie per riempire migliaia di pagine gemelle e prendere posizione su un motore di ricerca. Dante è stato scritto una volta. Quella roba è stata stampata sessantunomila.

Il testo che si replica meglio è il testo nato per replicarsi. E chi ha l’ufficio stampa più grande non vince perché ha ragione: vince perché produce materiale progettato per essere copiato.

Quindi no: quattrocento copie identiche di un comunicato non pesano quattrocento volte una trimestrale.

Il guaio è che nessuno pubblica quattrocento copie identiche.

L’agenzia riscrive il comunicato in agenziese. Il quotidiano lo riscrive in quotidianese. Il divulgatore ci mette le emoji. L’enciclopedia collaborativa lo consolida in voce enciclopedica, e da quel momento diventa la fonte che citano tutti gli altri. Il filtro anti-doppioni non vede niente di strano, e ha ragione: non sono doppioni. Sono quattrocento testi diversi che dicono la stessa cosa.

Alla fine il modello incontra una posizione ovunque, e quella minoritaria in un angolo.

Attenzione a cosa succede qui, perché è più sottile di come lo raccontano. Il modello non conclude che la posizione dominante sia vera: non conclude niente, non è nel suo repertorio. Ha solo imparato che è la continuazione probabile. Ma voi quella continuazione la ricevete nella forma di un giudizio, e nella forma di un giudizio la leggete.

E questo è appena il primo strato — il più innocente dei tre, quello che nessuno ha voluto e che nessuno governa. Del terzo non si potrà dire che è capitato: qualcuno l’ha scritto, in un documento, con i paragrafi numerati.

Ma quello viene dopo. Per ora restiamo dove il meccanismo non ha ancora un autore.

Non è censura. È aritmetica.

↑ Torna all’indice

Secondo: il lavaggio della provenienza

Questo è il movimento grave. Ed è quello di cui non parla nessuno, perché non produce numeri e non fa notizia.

Un giornale, anche il peggiore, lascia impronte. C’è una firma. C’è una testata di cui conoscete la linea. C’è il genere del pezzo — un’inchiesta non ha la stessa faccia di un pubbliredazionale, e si vede. C’è il tono, che tradisce la propaganda anche quando il contenuto la nega. Con quegli appigli arrivate alla domanda che conta: chi lo dice, e perché lo dice adesso.

Il modello prende materiali che non hanno niente in comune — comunicato aziendale, verbale, cronaca, linea politica, uno studio su duecento pazienti, una revisione su duecentomila — li digerisce, e li restituisce con la stessa voce. Neutra. Sicura. Levigata.

È un lavaggio nel senso tecnico del termine — lo stesso che si usa per il denaro. Il valore passa, l’origine sparisce. Comunicato e verbale, opinione e misura escono convertiti nella stessa valuta linguistica, e in quella valuta hanno tutti corso legale.

Chi legge non vede più né il conio né la zecca che l’ha battuto.

Non è una preoccupazione da moralisti. Quattro ricercatori di bioetica hanno dato al fenomeno un nome: provenance problem, il problema della provenienza.

Volete un esempio? Eccolo — ed è probabile che vi sia già capitato.

Chiedete a un modello di aiutarvi a mettere a fuoco un’idea. Vi restituisce un paragrafo ordinato e pensate: ecco, è esattamente quello che volevo dire. Solo che quel paragrafo ricalca da vicino un articolo pubblicato nel 1975 da una studiosa di cui non avete mai sentito il nome — un testo che il modello ha incontrato durante l’addestramento insieme ad altri milioni, e che non saprebbe indicarvi nemmeno se glielo chiedeste. Voi non citate quell’autrice perché ignorate che esista. Il modello non la cita perché non sa più di averla letta.

Nessuno ha rubato niente e nessuno può rimediare. Gli autori lo chiamano un delitto senza colpevole.

Succede anche fra esseri umani, del resto. Il collega che ha letto un saggio trent’anni fa, l’ha dimenticato, e vi dà un consiglio che viene da lì senza saperlo. Ma quel collega ha un nome, e glielo si può chiedere.

La macchina no. E non perché lo nasconda: perché quello che sa non è archiviato da nessuna parte. Dentro un modello non ci sono documenti — ci sono miliardi di numeri regolati durante l’addestramento, e in nessuno di quei numeri è rimasta scritta la parola «Smith, 1975». È lì che la catena, scrivono, «si spezza in un modo che può essere invisibile a tutte le parti».^[3]

Il loro problema è il credito: chi merita la citazione. Il nostro sta accanto e costa di più.

Se sparisce la provenienza, sparisce il cui prodest. Non potete chiedervi a chi giova una tesi di cui non sapete più chi l’ha formulata, quando, e con quale interesse in tasca. La domanda più antica del pensiero critico ha bisogno di qualcuno a cui rivolgerla. Senza quel qualcuno, «a chi giova?» smette di essere una domanda e diventa un modo di dire — il più elegante che si conosca per non chiedere niente.

Un modello che non sa attribuire quello che dice vi sta chiedendo, senza dirlo, di credergli sulla parola.

E ci riesce, perché parla bene.

↑ Torna all’indice

Terzo: il circolo che si stringe

Una parte del testo su cui verranno addestrati i modelli di domani è prodotta oggi dai modelli di ieri.

Quanta, non lo sa nessuno. Il numero che circola viene da un’analisi di novecentomila pagine web appena create, campionate nell’aprile 2025: il 74,2% conteneva materiale generato o assistito da intelligenza artificiale.

Prima di usarlo, mettiamolo alla sbarra — è l’esercizio che questo articolo sta chiedendo a voi. Conta pagine, non parole. I rilevatori automatici di testo sintetico non sono affidabili al cento per cento, e sono gli autori stessi a dirlo. E chi ha prodotto la misura stava lanciando sul mercato lo strumento con cui l’ha prodotta.^[4]

Testimone interessato. Lo teniamo come ordine di grandezza e lo diciamo — che è tutto quello che si può fare con un testimone interessato.

Cosa succede quando un modello impara dal proprio output è stato descritto su Nature nel 2024, e il nome che gli hanno dato è model collapse: il collasso del modello.

Si capisce con un dizionario.

Immaginate di compilarne uno leggendo tutti i libri in circolazione. Poi immaginate che i libri della generazione dopo vengano scritti usando quel dizionario, e che il dizionario successivo venga compilato leggendo quei libri. A ogni giro, le parole comparse una volta sola non superano la selezione: sono rare, quindi sembrano trascurabili. Dopo qualche passaggio avete un dizionario di duemila voci, perfettamente corretto, con cui non si riesce più a dire niente di insolito.

E indietro non si torna, perché quelle parole non sono conservate da nessuna parte.

Gli autori misurano due fasi. Nella prima sparisce l’informazione sui casi rari — quelli che in una distribuzione statistica stanno alle due estremità, e che per questo si chiamano code. Nella seconda, quel che resta si stringe attorno a un centro che dell’originale conserva poco. E non è un vizio dei soli modelli linguistici: lo stesso risultato esce da modelli statistici molto più semplici. Il difetto sta nel meccanismo, non nella tecnologia.^[5]

Due avvertenze, perché su questo studio la divulgazione ha corso più veloce della ricerca.

Il collasso non è il destino di chiunque usi dati sintetici: materiale artificiale scelto e controllato è uno strumento legittimo. Il veleno sta nell’indiscriminato, cioè quando il testo delle macchine rientra nei corpus e nessuno guarda.

E le code non sono le posizioni eretiche che il tempo darà per buone. Sono gli eventi rari, punto. Là dentro c’è l’intuizione eccentrica che fra vent’anni finisce nei manuali e c’è la scemenza che nessuno ha mai ripetuto perché era una scemenza. Quando le code si assottigliano non muore il vero: muore il raro — e con lui la possibilità stessa di stabilire quale dei due fosse.

Quel che resta è il tipico. Sempre più liscio, sempre più povero.

E qui la faccenda smette di riguardare le macchine.

Se pialli il linguaggio, pialli il pensiero. Le parole che non hai più sono le cose che non riesci più a dire — e quindi a pensare, e quindi a difendere. Non è un’idea nuova: Korzybski, Watzlawick e Orwell ci sono arrivati per strade diverse, e chi l’abbia detta per primo conta molto meno di quanto sia vera.^[10]

Nuovo è che stavolta non c’è nessuno che pialla.

La neolingua di Orwell aveva bisogno di un Ministero: qualcuno che decidesse quali parole togliere, e una volontà politica dietro la decisione. Qui non c’è ministero, non c’è elenco di parole proibite, non c’è nessuno che voglia alcunché. Il dizionario si accorcia da solo, perché le parole rare pesano poco e non le difende nessuno.

Orwell aveva immaginato l’impoverimento come progetto. Ci stiamo arrivando come effetto collaterale.

E c’è un dettaglio che vale tutta la sezione. Gli autori dello studio chiudono indicando due rimedi: preservare l’accesso ai dati non generati dalle macchine, e un coordinamento di sistema sulle questioni di provenienza.

Sei studiosi partiti da tutt’altra parte, con tutt’altri strumenti, sbattono contro il secondo movimento di questo articolo.

↑ Torna all’indice

Quarto: gli strati sopra la frequenza

Sopra la distribuzione ce ne sono altri due. Vanno tenuti separati, perché hanno natura diversa e colpevoli diversi.

Il gradimento

Quando il modello ha finito di leggere, qualcuno gli insegna le buone maniere.

Si mettono davanti a delle persone due risposte alla stessa domanda e si chiede quale preferiscono. Migliaia di volte. Da quelle preferenze si ricava un punteggio, e il modello viene riaggiustato per prendere punteggi alti. Non è più soltanto «cosa è stato scritto spesso».

Adesso è anche «cosa è piaciuto».

Nel 2023 diciannove ricercatori — il grosso dei quali lavora in un’azienda che questi assistenti li fabbrica — sono andati a vedere cosa succede quando quelle persone scelgono. Hanno preso cinque fra gli assistenti più avanzati in circolazione e li hanno messi alla prova con tre trucchi elementari.

Il primo. Date al modello un testo e chiedetegli un parere. Poi rifate la stessa domanda lasciando capire che quel testo vi piace. Il giudizio migliora.

Il secondo si chiama «Are you sure?», sei sicuro. Il modello dà una risposta corretta, voi fate finta di dubitarne, e lui la cambia.

Il terzo. Se dentro la vostra domanda avete infilato un errore, la risposta se lo porta dietro invece di correggerlo.

Nessuno gli ha insegnato a fare così. È venuto fuori da solo.

Ma il colpo vero sta più a monte. Messi davanti a una risposta compiacente scritta bene e a una risposta corretta, in una quota tutt’altro che trascurabile di casi i valutatori umani scelgono la prima. E la scelgono anche i sistemi di punteggio addestrati su di loro.^[6]

Non è la macchina che ha imparato a leccare. Siamo noi che abbiamo preferito essere leccati. Lei ha solo preso appunti.

La regola scritta

Il terzo strato non emerge da niente. È deciso a monte, ed è scritto. Vale su una lista di argomenti designati: salute e farmaci, questioni legali e finanziarie, elezioni, autolesionismo, minori. Su quei temi il comportamento del modello non dipende da cosa ha letto né da cosa è piaciuto ai valutatori. Dipende da una decisione di chi lo costruisce.

E non c’è bisogno di dedurlo, perché lo pubblicano loro.

Il Model Spec di OpenAI prescrive che sugli argomenti sensibili o regolamentati il modello fornisca informazione senza erogare consulenza, dichiari i propri limiti e vi rimandi a un professionista. Anthropic ha pubblicato nel gennaio 2026 una costituzione di ottanta pagine, licenza aperta, che ordina il comportamento del modello su una gerarchia dichiarata: prima la sicurezza, poi l’etica, poi la conformità, poi l’utilità.^[7]

Ottanta pagine che non leggerà mai nessuno. E questo, fra un attimo, sarà esattamente il punto.

I costi sono due, e nessuno dei due è teorico.

Il filtro lavora sul tema, non sull’affermazione. Questo lo dicono i documenti: le regole si attivano su una lista di argomenti, non su una valutazione del singolo enunciato. Da qui in poi il ragionamento è nostro.

Dentro un argomento designato sensibile convivono questioni realmente aperte nella letteratura seria e sciocchezze belle e buone. Se la deferenza scatta sull’argomento, la domanda ben posta e quella campata in aria ricevono la stessa cautela e la stessa pacca sulla spalla — e il dissenso fondato finisce appiattito su quello infondato.

Quanto spesso succeda non lo sa nessuno, perché nessuno lo misura. E che nessuno lo misuri è, di suo, la parte che dovrebbe preoccupare.

Lo strato è pubblicato, e resta invisibile. Non c’è niente di segreto: quei documenti sono online. Ma sono pubblicati altrove. La risposta che vi arriva sullo schermo non porta scritto da dove è nata — se dalla montagna di testo, se dalle preferenze dei valutatori, se da una regola a pagina quaranta di una costituzione. Stessa voce, stessa fluidità, stessa sicurezza.

Trasparenza a monte, opacità nel punto esatto in cui vi servirebbe.

Tre volte

Quel che è stato scritto spesso. Quel che è piaciuto spesso. Quel che è stato deciso prima.

Un incidente della distribuzione, un effetto collaterale dell’ottimizzazione, una scelta deliberata: tre cose diversissime, che escono tutte e tre dallo stesso rubinetto alla stessa temperatura.

Che poi è il secondo movimento, tornato indietro con una faccia nuova. Non è soltanto che non sapete chi ha detto la cosa che il modello vi sta ripetendo.

Non sapete nemmeno quale parte del modello ve l’ha detta.

↑ Torna all’indice

Intermezzo: una parola ritirata

Fin qui la meccanica. Adesso la prova che il terzo strato lavora esattamente così — e viene da casa nostra.

Prima però l’obiezione, che è seria e va presa sul serio perché è vera.

Uno chiede se il farmaco che prende da tre anni può stare insieme a quello che gli hanno prescritto ieri. Il modello ha due strade: la posizione degli enti che quei farmaci li autorizzano, oppure quella di un tale che su un forum giura di prenderli insieme da sempre. Se sceglie il forum e quello finisce al pronto soccorso, il problema smette di essere filosofico.

Quindi sì. Quasi sempre la deferenza è la scelta giusta, e chi la difende ha ragione da vendere.

Il punto non è quello. Il punto è cosa succede quando l’istituzione cambia idea.

Torniamo al 28 aprile 2021. Il comunicato del FOMC dice: «Inflation has risen, largely reflecting transitory factors». L’inflazione è salita, riflettendo in larga misura fattori transitori.

La formula resta nei comunicati per mesi. La ripete il presidente della Fed, la ripete il Tesoro americano, la ripete ogni redazione economica del pianeta.

Le olive buone come sono? Ascolane. I problemi dell’economia italiana? Strutturali. E come si affrontano? Con le riforme.

Nessuna di queste risposte l’avete scelta. Vi è venuta.

Ecco: nel 2021, alla frase «l’inflazione è…», veniva «transitoria». A chiunque, in qualunque corpus del mondo. Senza gara.

30 novembre 2021, commissione bancaria del Senato. Jerome Powell dichiara che «è probabilmente un buon momento per ritirare quella parola».

31 maggio 2022, televisione. Janet Yellen: «Penso di essermi sbagliata, allora, sul percorso che l’inflazione avrebbe preso».^[8]

Adesso immaginate le due interrogazioni.

Estate 2021 — l’inflazione è transitoria? Risposta calma, competente, allineata alla Fed.
Estate 2022 — stessa domanda. Risposta calma, competente, allineata alla Fed.

In nessuno dei due momenti chi ha chiesto ha visto accadere la deferenza. In nessuno dei due la risposta ha ammesso di stare facendo il portavoce di qualcun altro. E in nessuno dei due ha detto la cosa più utile che potesse dire: guardi, questa posizione l’anno scorso era un’altra.

Non stiamo dicendo chi avesse ragione sull’inflazione nel 2021, e non serve. Stiamo dicendo che la stessa voce, con la stessa sicurezza, ha sostenuto due tesi opposte a dodici mesi di distanza.

Lo strato insegue la posizione istituzionale, non il vero. E non conserva memoria di aver cambiato idea.

↑ Torna all’indice

Quinto: la retroazione

Il testo levigato dalla macchina non aspetta il prossimo addestramento per fare danno. Torna nel mondo la mattina dopo.

Dentro un articolo. Una relazione. Un comunicato. Una nota di ricerca. Una risposta amministrativa. Una delibera che qualcuno applicherà a qualcun altro.

E ci torna vestito bene: carta intestata, logo, la firma di un’organizzazione. A quel punto qualcuno lo cita — e citandolo gli attribuisce una fonte che non è quella vera. Non il testo ignoto che il modello aveva assorbito e riformulato: l’ufficio che ha pubblicato il documento.

L’affermazione ha appena ricevuto un conio nuovo. E la zecca che l’aveva battuta non esiste più.

Il nuovo volume alimenta due destinazioni insieme: il mondo, subito, e il prossimo corpus, dopo. A ogni giro la posizione dominante diventa un po’ più dominante e un po’ meno attribuibile.

È un interesse composto al contrario. Non capitalizza il valore: capitalizza l’anonimato.

E nessuno, in tutta la catena, ha mentito. Nessuno — salvo il terzo strato, che almeno ha degli autori e li dichiara — ha voluto niente. È il funzionamento ordinario di una macchina che ottimizza la scorrevolezza e non ha mai avuto, fra i suoi obiettivi, la conservazione della fonte.

Ed è qui che il paragone con la propaganda si rovescia, ed è la cosa più sgradevole di tutto l’articolo.

La propaganda ha un propagandista. Uno che ci mette la faccia: un ministero, un ufficio, una testata di cui si conosce il padrone. Lo puoi contestare, smentire, portare in tribunale — perché esiste.

Qui l’enunciazione sopravvive. L’enunciatore scompare.

E non c’è nessuno da mettere alla sbarra.

↑ Torna all’indice

Cui prodest: cosa si fa con un conio

La denuncia è la parte facile. La parte difficile è che chi produce analisi oggi deve decidere cosa farsene di questa diagnosi, sapendo due cose: che la macchina non si restituisce indietro, e che rifiutarla sarebbe una posa — costosa, per giunta.

Nei mercati la faccenda smette in fretta di essere filosofica.

Un numero senza origine non è un numero debole. È un numero che non si può interrogare, e quindi neppure smentire. Ci si costruisce sopra una posizione con la stessa tranquillità con cui la si costruirebbe su un numero verificato, e la differenza salta fuori dopo, quando il prezzo presenta il conto. Chi aveva in portafoglio la parola «transitoria» nell’estate del 2021 sa benissimo di quale conto stiamo parlando.

Tradotto in pratica sono tre regole. Noiose tutte e tre, e tutte e tre non negoziabili.

Che non siano prediche lo dimostra la pagina stessa su cui poggia il secondo movimento. In fondo alla loro Correspondence, i quattro ricercatori che al problema della provenienza hanno dato il nome mettono una riga: durante la stesura hanno usato GPT-5 e Claude per rivedere e accorciare una bozza più lunga scritta da loro.^[3]

Il testo che denuncia la sparizione della provenienza è stato scritto con lo strumento che la fa sparire — e lo dichiara.

Non è un’ipocrisia da smascherare. È la prova che si può usare la macchina e restare rintracciabili. Costa una riga.

Nessuna delle tre regole è una difesa contro l’intelligenza artificiale. Sono difese contro una tentazione molto più antica, che l’intelligenza artificiale si limita a rendere irresistibile: parlare bene di cose che non si sono verificate.

Seneca chiude quella stessa frase con quattro parole che a venti secoli di distanza suonano come una specifica tecnica: nec ad rationem sed ad similitudinem vivimus — non viviamo secondo ragione, ma per conformità.^[1]

Conformità è precisamente ciò che una macchina del genere ottimizza. È il suo mestiere, e lo fa benissimo.

Il grande equivoco di questi anni è che il pericolo sia una macchina che mente. Magari. Una che mente la smentisci: le chiedi la fonte, la trovi sbagliata, chiuso, si va a pranzo.

Questa non mente. Questa vi dà ragione con voce calma, vi restituisce il consenso della stanza come se fosse la misura del mondo, e non vi dice mai da dove l’ha preso. Non è un bugiardo: è un maggiordomo.

E i maggiordomi non li licenzia nessuno. Sono troppo comodi.

Seneca, a Gallione, non stava mettendo in guardia dai potenti. Ad rumorem componimur — il verbo è alla prima persona plurale. Il soggetto siamo noi. Ci conformiamo noi. La macchina ha soltanto reso il gesto più rapido, più liscio e infinitamente più educato.

Quindi si guarda il conio. Sempre, con tutti, anche quando la risposta arriva con la voce giusta.

Soprattutto quando arriva con la voce giusta.

Non perché la macchina sia disonesta.

Perché noi siamo comodi.

↑ Torna all’indice

Note

[1] Seneca, De vita beata, I, 3: «Atqui nulla res nos maioribus malis implicat, quam quod ad rumorem componimur, optima rati ea, quae magno adsensu recepta sunt, quodque exempla <nobis pro> bonis multa sunt, nec ad rationem sed ad similitudinem vivimus.» Le parentesi uncinate segnalano un’integrazione dei curatori; il passo sul gregge («ne pecorum ritu sequamur antecedentium gregem, pergentes non qua eundum est, sed qua itur») precede immediatamente, in I, 3. Testo latino: The Latin Library. Traduzioni nel testo dell’autore. ↩ ↩

[2] Katherine Lee, Daphne Ippolito, Andrew Nystrom, Chiyuan Zhang, Douglas Eck, Chris Callison-Burch, Nicholas Carlini, «Deduplicating Training Data Makes Language Models Better», arXiv:2107.06499, 14 luglio 2021. La riduzione di dieci volte nell’emissione di testo memorizzato è nell’abstract. La frase di 61 parole è riportata per esteso dagli autori nella nota 1 di pagina 1: compare 61.036 volte nel dataset di addestramento e 61 volte nel set di validazione (lo 0,02% dei campioni in ciascuno dei due). Gli autori osservano che questa sovrapposizione fra dati di addestramento e dati di verifica porta a sopravvalutare l’accuratezza dei modelli. Il testo è citato nell’articolo verbatim, refusi e grammatica compresi. Il nome C4 sta per Colossal Clean Crawled Corpus: il dataset è stato costruito da Raffel et al. (2020) applicando a uno snapshot di Common Crawl una serie di filtri euristici, fra cui la rimozione dei riempitivi da modello, del codice JavaScript e dei testi non inglesi. ↩

[3] Brian D. Earp, Haotian Yuan, Julian Koplin, Sebastian Porsdam Mann, «LLM use in scholarly writing poses a provenance problem», Nature Machine Intelligence 7, 1889–1890, pubblicato il 12 dicembre 2025 (doi 10.1038/s42256-025-01159-8). È una Correspondence di due pagine — un contributo d’opinione argomentata, non uno studio sperimentale — e va pesata come tale. La versione estesa e ad accesso libero è il preprint «The Provenance Problem: LLMs and the Breakdown of Citation Norms», arXiv:2509.13365, settembre 2025: da lì, e non dalla versione Nature, vengono l’esempio dell’articolo di una fantomatica Smith del 1975, i tre gradi di mediazione (nell’originale direct input, retrieval systems, parametric memory) e la frase citata nel testo, «the intellectual lineage is broken in a way that may be invisible to all parties». L’espressione «un delitto senza colpevole» rende «a perpetratorless crime». La dichiarazione citata nel sesto capitolo è negli Acknowledgements della versione Nature: «During the drafting of this paper, GPT-5 and Claude Sonnet 4.5 were used to help edit and shorten a longer draft written by the authors. The authors then further edited and refined the text by hand». ↩ ↩

[4] Ryan Law, Xibeijia Guan, Tim Soulo, «74% of New Webpages Include AI Content (Study of 900k Pages)», Ahrefs, 19 maggio 2025. Campione: 900.000 pagine in lingua inglese rilevate dal crawler ad aprile 2025, una pagina per dominio. Ripartizione: 2,5% «pure AI», 25,8% «pure human», 71,7% miste; all’interno delle miste, 25,86% con uso moderato (11–40% della pagina), 20,50% sostanziale (41–70%), 15,51% dominante (71–99%). I limiti dei rilevatori sono dichiarati dagli autori nell’articolo stesso. Il conflitto di interesse è pubblico e dichiarato nel testo: la ricerca è stata condotta con il rilevatore proprietario dell’azienda, in fase di lancio commerciale. ↩

[5] Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, Nicolas Papernot, Ross Anderson, Yarin Gal, «AI models collapse when trained on recursively generated data», Nature 631, 755–759 (2024); si veda anche l’Author Correction del 21 marzo 2025 (doi 10.1038/s41586-025-08905-3). Definizioni: nel collasso precoce il modello perde informazione sulle code della distribuzione; nel tardivo converge a una distribuzione poco somigliante all’originale, con varianza ridotta. Replica su VAE, GMM e OPT-125m. I rimedi indicati dagli autori sono la preservazione dell’accesso ai dati non generati dai modelli e un coordinamento sulle questioni di provenienza. ↩

[6] Mrinank Sharma, Meg Tong, Tomasz Korbak, David Duvenaud, Amanda Askell, Samuel R. Bowman et al. (diciannove autori, in maggioranza di Anthropic), «Towards Understanding Sycophancy in Language Models», arXiv:2310.13548, ottobre 2023, ultima revisione maggio 2025; poi ICLR 2024. Cinque assistenti di ultima generazione, quattro compiti di generazione libera. I tre comportamenti descritti nel testo corrispondono alle metriche definite dagli autori: feedback sycophancy (il giudizio su un testo migliora se chi chiede lascia intendere di gradirlo), answer sycophancy — la prova «Are you sure?», in cui il modello abbandona una risposta corretta davanti a un dubbio pretestuoso — e mimicry sycophancy (la risposta riproduce l’errore contenuto nella domanda). Il risultato più rilevante ai fini di questo articolo sta però nell’analisi dei dati di preferenza: sia i valutatori umani sia i preference model preferiscono risposte compiacenti ben scritte a risposte corrette «in una frazione non trascurabile dei casi». ↩

[7] OpenAI, Model Spec, documento pubblico aggiornato periodicamente — model-spec.openai.com. La prescrizione sui temi sensibili o regolamentati («for advice on sensitive and/or regulated topics like medical issues, the assistant should equip the user with information without providing regulated advice») è nella sezione dedicata ai limiti di consulenza. Anthropic, Claude’s Constitution, pubblicata il 22 gennaio 2026, circa ottanta pagine, licenza CC0 — anthropic.com/news/claude-new-constitution. La gerarchia dichiarata è sicurezza → etica → conformità → utilità, con la sicurezza posta al vertice non perché ritenuta filosoficamente superiore, ma perché è la condizione che rende possibile correggere gli errori di valore del modello. Entrambi i documenti sono citati qui come prova che lo strato esiste ed è deliberato, non come oggetto di critica al loro contenuto specifico. ↩

[8] Federal Reserve, comunicato FOMC del 28 aprile 2021: «Inflation has risen, largely reflecting transitory factors» — federalreserve.gov, monetary20210428a.htm. Jerome Powell, audizione davanti al Senate Committee on Banking, Housing, and Urban Affairs del 30 novembre 2021, in risposta al senatore Pat Toomey: «I think it’s probably a good time to retire that word and try to explain more clearly what we mean». Janet Yellen, intervista a Wolf Blitzer, CNN, andata in onda il 31 maggio 2022: «I think I was wrong then about the path that inflation would take», ripresa il giorno successivo da CNBC e da altre testate. La ricostruzione dell’uso della formula nel corso del 2021 da parte di Fed e Tesoro è documentata negli stessi comunicati FOMC dell’anno. ↩

[9] Emily M. Bender, Timnit Gebru, Angelina McMillan-Major, Shmargaret Shmitchell, «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜», in Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21), pp. 610–623, doi 10.1145/3442188.3445922. È il testo che ha introdotto nel dibattito l’espressione «pappagallo stocastico». «Shmargaret Shmitchell» è lo pseudonimo con cui firma Margaret Mitchell, allora co-responsabile del gruppo di etica dell’intelligenza artificiale in Google. Sulla vicenda che seguì le versioni divergono, e vanno riportate entrambe: nel dicembre 2020 Timnit Gebru dichiarò di essere stata licenziata dopo aver rifiutato di ritirare il proprio nome dal paper; Jeff Dean, responsabile della ricerca AI di Google, comunicò internamente che il lavoro non era stato giudicato sufficientemente rigoroso e definì l’uscita di Gebru una dimissione. Margaret Mitchell fu licenziata due mesi più tardi. ↩

[10] Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics, 1933; la formula compare già in una comunicazione del 1931, e per esteso suona: «a map is not the territory it represents, but, if correct, it has a similar structure to the territory, which accounts for its usefulness». Paul Watzlawick, Janet H. Beavin, Don D. Jackson, Pragmatics of Human Communication, 1967 (ed. it. Pragmatica della comunicazione umana, Astrolabio) — testo fondativo della scuola di Palo Alto; il costruttivismo di Watzlawick sostiene che ciascuno costruisca la propria realtà attraverso la comunicazione. George Orwell, Nineteen Eighty-Four, 1949: la battuta del funzionario è di Syme, parte I capitolo 5 («Don’t you see that the whole aim of Newspeak is to narrow the range of thought? In the end we shall make thoughtcrime literally impossible, because there will be no words in which to express it»); l’appendice «The Principles of Newspeak» precisa che lo scopo della lingua era «to make all other modes of thought impossible». Una precisazione dovuta: la formula corrente «chi controlla il linguaggio controlla il pensiero» non è di Orwell — è una sintesi posteriore — e nella sua versione forte, quella per cui il linguaggio determina il pensiero, resta una tesi linguistica contestata. Qui si sostiene la versione debole: il linguaggio disponibile rende certi pensieri più facili e altri più costosi. ↩

Bibliografia

Ricerca

• Lee K., Ippolito D., Nystrom A., Zhang C., Eck D., Callison-Burch C., Carlini N., «Deduplicating Training Data Makes Language Models Better», arXiv:2107.06499 (2021). arxiv.org/abs/2107.06499
• Shumailov I., Shumaylov Z., Zhao Y., Papernot N., Anderson R., Gal Y., «AI models collapse when trained on recursively generated data», Nature 631, 755–759 (2024). nature.com/articles/s41586-024-07566-y
• Sharma M. et al., «Towards Understanding Sycophancy in Language Models», arXiv:2310.13548 (2023). arxiv.org/abs/2310.13548
• Bender E.M., Gebru T., McMillan-Major A., Shmitchell S., «On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜», FAccT ’21, pp. 610–623 (2021). dl.acm.org/doi/10.1145/3442188.3445922
• Earp B.D., Yuan H., Koplin J., Porsdam Mann S., «LLM use in scholarly writing poses a provenance problem», Nature Machine Intelligence 7, 1889–1890 (2025) — Correspondence. doi.org/10.1038/s42256-025-01159-8
• Earp B.D., Yuan H., Koplin J., Porsdam Mann S., «The Provenance Problem: LLMs and the Breakdown of Citation Norms», arXiv:2509.13365 (2025) — versione estesa ad accesso libero. arxiv.org/abs/2509.13365

Documenti delle aziende

• OpenAI, Model Spec. model-spec.openai.com
• Anthropic, Claude’s Constitution, 22 gennaio 2026. anthropic.com/news/claude-new-constitution

Fonti primarie — il caso «transitorio»

• Federal Reserve, FOMC statement, 28 aprile 2021. federalreserve.gov
• Jerome Powell, audizione al Senate Banking Committee, 30 novembre 2021.
• Janet Yellen, intervista CNN, 31 maggio 2022; ripresa CNBC, 1 giugno 2022. cnbc.com

Dati di settore

• Law R., Guan X., Soulo T., «74% of New Webpages Include AI Content (Study of 900k Pages)», Ahrefs, 19 maggio 2025. ahrefs.com

Linguaggio e realtà

• Korzybski A., Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics (1933).
• Watzlawick P., Beavin J.H., Jackson D.D., Pragmatica della comunicazione umana, Astrolabio (ed. or. Pragmatics of Human Communication, 1967).
• Orwell G., Nineteen Eighty-Four (1949), parte I cap. 5 e appendice «The Principles of Newspeak».

Fonti classiche

• Seneca, De vita beata, I. Testo latino: The Latin Library, thelatinlibrary.com

↑ Torna all’indice

© FINBEAR™ — Powered by Pythia™ — Tutti i diritti riservati
Articolo di approfondimento — Agosto 2026