Il nostro modello di rilevazione nel browser conteneva il vocabolario di 104 lingue, ma allora ne offrivamo solo sette. Abbiamo tolto le parti scritte in alfabeti che non usiamo: il file è sceso da 178,5 a 139,6 MB. Su 77 documenti il risultato è identico.
Perché il modello gira nel browser
Il modello gira nel browser, e non su un nostro server, per una ragione giuridica. Un documento con un codice fiscale come RSSMRA85T10A562S, un IBAN o un numero di tessera sanitaria contiene dati personali. Se lo elabora un servizio remoto, il fornitore diventa responsabile del trattamento ai sensi dell'art. 28 GDPR, con contratto e garanzie.
Per un avvocato c'è anche il segreto professionale, tutelato dall'art. 622 c.p. anche per un file caricato su una piattaforma altrui. Il Garante per la protezione dei dati personali, in un'istruttoria, chiede chi ha ricevuto i dati, su quale base e con quali garanzie. Il Codice privacy non attenua queste richieste.
Con l'analisi sul computer dell'utente, nessun terzo riceve il contenuto e il titolare non deve nominare un responsabile. Il prezzo lo paga il visitatore, che prima di premere Rileva deve scaricare il modello.
Il documento non lascia mai la macchina, né sul desktop né nell'app web. L'app web gratuita invia però un segnale anonimo all'avvio, senza contenuto, e per questo «100% offline» vale solo per il desktop.
La modalità del tutto scollegata, senza verifica della licenza né segnalazioni degli arresti anomali, è riservata al piano Pro. Sul desktop anche la Decodifica avviene in locale, nel componente installato con l'applicazione.
Dove stava il peso inutile
Un modello come il nostro non legge parole intere. Scompone il testo in frammenti presi da un vocabolario fisso, e a ogni frammento corrisponde una riga di numeri. Il nome di una città nota resta un solo frammento, un cognome raro si spezza in tre o quattro.
Un modello addestrato su 104 lingue deve scomporre anche cirillico, arabo, devanagari e cinese, quindi il suo vocabolario contiene i frammenti di tutte queste scritture. Chi lo usava nel browser scaricava il vocabolario di 97 lingue in cui non avrebbe mai aperto un documento.
Chi l'ha costruito così non ha sbagliato: un modello pubblicato per tutti deve servire a tutti. Il problema nasce quando lo si mette così com'è nel browser, come abbiamo fatto anche noi per un periodo.
Il modello però potevamo modificarlo noi, perché il motore di rilevazione l'abbiamo costruito noi.
Che cosa abbiamo tolto
Abbiamo eliminato dal vocabolario i frammenti scritti in alfabeti che nessuna delle sette lingue usa, insieme alle loro righe di numeri. Il resto della rete è intatto, dagli strati che leggono il contesto a quello che assegna il tipo di entità.
Il file è passato da 178,5 a 139,6 MB, circa il 22% in meno. Il download pesa circa 100 MB, scaricati una volta: poi il modello resta in cache e Rileva è subito pronto.
Un ingegnere fa bene a diffidare di un 22% in meno a costo zero, perché quasi ogni ottimizzazione sacrifica qualcosa. Qui il conto torna per una ragione meccanica.
Un documento italiano viene scomposto negli stessi frammenti di prima, e ognuno conserva la sua riga di numeri. La rete riceve gli stessi valori e fa gli stessi calcoli.
La prova che poteva smentirci
Il ragionamento va comunque verificato. Si fanno girare i due modelli sugli stessi documenti e si confrontano la scomposizione del testo e le entità trovate. Un frammento utile perso si vedrebbe nella prima, un calcolo alterato nelle seconde.
Lo abbiamo fatto su 77 documenti in sette lingue. Il risultato è identico, alla lettera: nessuna differenza nella scomposizione e nessuna differenza fra le 2.219 entità rilevate.
Una riduzione con un piccolo calo di qualità sarebbe stata un compromesso da giustificare. Una riduzione che non cambia nulla chiede solo una verifica, e i numeri per farla sono questi.
La misura copre le sette lingue offerte allora. Un testo negli alfabeti eliminati resta fuori, e ne parliamo nelle domande frequenti. Le cifre sono nostre, raccolte sul nostro modello e sul nostro corpus il giorno del rilascio. Chi vuole contestarle ha un dato preciso da contestare.
Il modello più piccolo, misurato e scartato
C'era una strada più breve. DistilBERT, una versione a sei strati della stessa famiglia, ha un download di circa 70 MB contro i nostri 100. Trenta megabyte in meno per visitatore sono un argomento serio. Lo abbiamo valutato sullo stesso corpus di prova, selezionato a mano, che usiamo per il modello in produzione.
In media DistilBERT ottiene il 73,5%, contro il 77,2% del modello in uso. Sembra una differenza minima, ma la media inganna. In spagnolo il modello più piccolo perde 22 punti, in tedesco 13. Uno studio di Barcellona o di Francoforte avrebbe un rilevatore molto peggiore, e nessuna media glielo direbbe.
C'è poi un secondo dato: DistilBERT concorda con il modello in produzione solo sul 76% dei rilevamenti. Trova quindi entità diverse, in numero simile, non le stesse con qualche mancanza.
Per chi controlla un documento è il caso più scomodo, perché deve reimparare dove guardare. Con questi numeri lo abbiamo scartato.
Dove si colloca il modello
La riduzione tocca un solo componente di Rileva. Prima del modello di entità, che cerca nomi e indirizzi, schemi ad alta precisione cercano valori come il codice fiscale o l'IBAN. Dopo interviene un modello linguistico facoltativo, spento per impostazione predefinita. I risultati vengono fusi, privati dei doppioni, propagati fra le pagine e ripuliti dal rumore.
Nessuno strato garantisce di cogliere ogni identificativo, perciò il prodotto chiede una verifica nella Revisione prima di scaricare il file. Sul desktop le scansioni seguono lo stesso criterio: Tesseract le legge a 300 dpi con otto pacchetti di lingua, nella lingua del documento più l'inglese, e copre i pixel dei dati trovati. Con il pacchetto sbagliato si leggono male, senza avviso.
Domande frequenti
Ridurre il vocabolario costa precisione?
Sulle sette lingue misurate, no. Su 77 documenti il modello ridotto ha dato la stessa scomposizione e le stesse 2.219 entità dell'originale. I frammenti tolti appartengono ad alfabeti che quei testi non usano.
Perché non usare semplicemente un modello più piccolo?
Lo abbiamo provato, e non conveniva. DistilBERT avrebbe risparmiato circa 30 MB, ma ha perso 22 punti in spagnolo e 13 in tedesco. Concordava con il nostro modello solo sul 76% dei rilevamenti, e il risparmio si sarebbe pagato nella Revisione, cioè con il lavoro di chi controlla.
Che cosa succede a una lingua rimossa?
A rigore sono stati rimossi alfabeti più che lingue. Un testo in quegli alfabeti non trova più i suoi frammenti, e il modello ridotto non lo legge come l'originale. Le nostre prove non coprono quel caso, e per atti in russo o in greco il modello del browser non era adatto nemmeno prima.
Un risparmio che nessuno vede
Nessun utente si accorge di aver scaricato 39 MB in meno. Il costo però lo pagava lui, su una connessione lenta o un portatile con poco spazio, per alfabeti che non incontrerà mai. Un modello, grande o piccolo, si limita a proporre: che cosa lasciare in un documento che esce dallo studio lo decide chi lo firma.