Per molto tempo un testo scorrevole e ben argomentato ha fatto da prova della competenza di chi lo firmava. Oggi un modello di IA produce un testo altrettanto curato per chiunque, in pochi secondi. Quella prova non vale più per nessuno, nemmeno per i veri esperti. Ciò che la sostituisce non si può delegare: capire un'affermazione fino a saperla riformulare, e trovarne conferma in una fonte diversa dall'autore.
Una domanda posta 2.400 anni fa
Nel Gorgia di Platone, Socrate interroga il celebre retore che dà il nome al dialogo e gli sottopone un caso. Da una parte c'è un oratore che di medicina non sa nulla, dall'altra un vero medico. Davanti a loro siede una folla di persone che medici non sono.
Socrate ne trae una conclusione: tra chi non sa, l'oratore risulta più convincente del medico che sa. Gorgia l'accetta con una sola parola, «Certamente», al passo 459a. In quel punto Gorgia non si vanta: si limita ad ammettere la deduzione di Socrate.
Sono passati circa 2.400 anni e il problema non è mai stato risolto. Si è trovato invece un espediente: considerare un testo ben costruito e ben argomentato una prova della competenza di chi lo scriveva.
La scioltezza faceva presumere la competenza, e la competenza rendeva credibile l'affermazione: in pratica era il modo di scrivere a garantire per chi scriveva.
Quell'espediente si chiama prestigio
Per quell'espediente esiste una parola comune: prestigio. Da allora la società si è sempre affidata al prestigio. Ne dipendono le assunzioni, i finanziamenti, le nomine nei consigli di amministrazione, la politica. Ne dipende perfino il peso che si dà a un commento sotto un post sui social.
Chi scrive bene sembra sapere di che cosa parla. Chi sembra saperlo viene ascoltato, assunto, finanziato. Nessuno controlla ogni volta la sostanza, perché ci si fida della forma.
La scorciatoia non regge più
Oggi l'espediente non funziona più. Un modello di IA fornisce a chiunque un messaggio ben strutturato in pochi secondi. Sembrare credibili non costa più nulla, e così viene meno una scorciatoia che si reggeva proprio su quel costo.
Quasi tutti ne fanno una questione di frode, ma a mio avviso il problema è più grave. Certo, l'IA dà credito a chi non sa difendere ciò che afferma, ma nello stesso tempo lo toglie a tutti gli altri.
Se la forma non dice più nulla dell'autore, ogni testo curato diventa sospetto. Lo diventa anche quello di chi conosce davvero la materia: il parere di un giurista esperto, la relazione di un tecnico che studia il tema da una vita.
Chi ha passato vent'anni a imparare a scrivere con chiarezza aveva un patrimonio che oggi ha perso valore, e lo ha perso senza alcuna colpa.
Vale anche per questo articolo
Lo dichiaro senza giri di parole: scrivo le bozze con strumenti di IA, e questo articolo non fa eccezione. Lei non ha quindi alcun motivo di attribuire a me il merito della scorrevolezza di questo testo. È proprio questo il punto dell'articolo.
Se il testo Le sembra chiaro, questa chiarezza non dice nulla di me. Lo stesso vale per ogni testo che leggerà domani, chiunque lo firmi.
Le due verifiche che restano
Ciò che prende il posto del prestigio è più lento, e non è facoltativo. Occorre giudicare il messaggio senza guardare a chi lo firma, perché ormai la forma non dice più nulla dell'autore. Restano due verifiche, ed entrambe richiedono lavoro.
La prima riguarda la comprensione. Non basta seguire un ragionamento, né annuire perché ha la forma giusta. Occorre capirlo fino a saperlo riformulare con parole proprie, davanti a qualcuno che non è d'accordo.
La seconda riguarda la conferma. Serve almeno una fonte che non sia l'autore. Per questo ho indicato un passo preciso: Platone, Gorgia, 459a. Lo verifichi pure.
Se ho riportato male ciò che si legge in quel punto, consideri inattendibile tutto il resto dell'articolo. È la regola che propongo, e la applico anzitutto a me.
È una verifica dei fatti ragionevole, che non chiede di diffidare di tutti ma fissa una soglia minima valida per ogni testo, chiunque lo firmi.
La fine del prestigio
A mio avviso questa è la fine del prestigio. È una buona notizia, anche se ci costerà fatica.
Il prestigio non è mai stato una misura della verità, ma una scorciatoia. Ci consentiva di affidare il nostro giudizio a chi sapeva convincere e per questo passava per esperto. Premiava chi sapeva esprimersi bene.
Escludeva invece chi aveva ragione ma scriveva senza eleganza, chi aveva ragione ma scriveva in una lingua che non era la sua, chi aveva ragione senza un titolo da esibire. Molte di queste persone non sono mai state ascoltate.
Questo filtro sta venendo meno. Ciò che lo sostituisce chiede di più a ciascun lettore e non si può delegare a nessuno: bisogna capire da sé, e poi verificare da sé.
Controllare ciò che si legge è sempre stato compito del lettore attento. Finora il prestigio ci permetteva di non farlo.
Domande frequenti
Che cosa dice il Gorgia di Platone su competenza e persuasione?
Al passo 459a Socrate chiede se l'oratore, che non è medico, risulti più convincente del medico davanti a chi non se ne intende. Gorgia risponde «Certamente». Ne segue che la capacità di persuadere non garantisce la competenza.
Perché l'IA rende meno affidabile un testo ben scritto?
Il contenuto non diventa meno vero. È la forma a non valere più come indizio: un modello di IA produce un testo curato per chiunque, in pochi secondi. La qualità della scrittura non dice più nulla sulla competenza di chi firma.
Come si verifica un'affermazione senza fidarsi di chi la scrive?
Con due verifiche. La prima consiste nel capirla abbastanza da saperla riformulare con parole proprie, davanti a chi non è d'accordo. La seconda consiste nel trovarne conferma in almeno una fonte diversa dall'autore.
Un testo scritto con l'aiuto dell'IA è per forza inaffidabile?
No. Va giudicato come qualunque altro testo, sul contenuto e sulle fonti. È la forma, da sola, a non provare più nulla.