L’intelligenza artificiale ha un problema sempre più evidente: ha bisogno di enormi quantità di dati per continuare ad addestrare e migliorare i propri modelli, ma la principale fonte utilizzata finora, Internet, sta diventando sempre meno affidabile.
La rete è infatti ormai piena di contenuti generati dalla stessa IA: articoli, post, documenti e testi prodotti automaticamente. Utilizzare questi materiali per addestrare nuove generazioni di modelli rischia di creare un circolo vizioso, nel quale l’intelligenza artificiale impara da contenuti generati da altre intelligenze artificiali.
È il fenomeno conosciuto come model collapse, un progressivo deterioramento delle prestazioni dei modelli causato dall’accumulo di errori, semplificazioni e distorsioni a ogni nuova generazione.
Per questo le aziende tecnologiche stanno cercando una fonte alternativa di dati: i libri cartacei.
In particolare, vengono acquistati volumi pubblicati prima del 2022, quando l’esplosione dell’IA generativa non aveva ancora modificato profondamente l’ambiente informativo online.
Il paradosso è che alcuni di questi libri, una volta acquistati, non vengono conservati: vengono invece smembrati, scansionati e infine distrutti.
Perché i vecchi libri sono così preziosi per l’IA
I libri stampati rappresentano una grande riserva di contenuti prodotti da esseri umani, rispetto a molti materiali presenti oggi sul web, sono quindi considerati una fonte di dati più «pulita» per l’addestramento.
Il loro valore non dipende soltanto dalla quantità di testo: le pubblicazioni possono contenere termini specialistici, strutture linguistiche, stili di scrittura e riferimenti culturali che difficilmente si trovano con la stessa varietà nei contenuti digitali contemporanei.
Per questo l’interesse non si concentra esclusivamente sui bestseller: tra i volumi ricercati ci sono soprattutto pubblicazioni di storia locale, diritto, economia, linguistica, manualistica e saggistica, in particolare quelle pubblicate dagli anni Settanta in poi e identificabili attraverso un codice ISBN.
In pratica, i vecchi scaffali possono contenere una quantità di informazioni che l’IA considera preziosa proprio perché risale a un periodo precedente alla massiccia produzione di contenuti sintetici.
La tecnica della «scansione distruttiva»
Per trasformare rapidamente questi libri in dati digitali viene utilizzata, in alcuni casi, una procedura chiamata destructive scanning, cioè «scansione distruttiva».
Il procedimento prevede che il volume venga prima acquistato e poi privato del dorso, le pagine vengono separate e inserite in scanner ad alta velocità, che permettono di digitalizzare grandi quantità di testo. Una volta terminata la scansione, il libro fisico può essere destinato al riciclo e trasformato in carta da macero.
Il risultato è una copia digitale del contenuto, mentre l’originale cartaceo non esiste più come libro. La pratica è stata documentata da diverse inchieste giornalistiche e ha sollevato interrogativi anche dal punto di vista culturale: alcuni dei volumi acquistati potrebbero infatti essere fuori catalogo, rari o difficili da reperire, e la loro distruzione rischia di eliminarli dagli scaffali di biblioteche, librerie antiquarie e collezioni private.
Il nodo del copyright e il «fair use»
Dietro la scelta di distruggere fisicamente i libri c’è anche una questione giuridica: negli Stati Uniti esiste il principio del fair use, cioè l'»uso leale», che in determinate circostanze permette di utilizzare opere protette dal diritto d’autore senza ottenere un’autorizzazione preventiva. Uno degli elementi considerati è la natura trasformativa dell’utilizzo dell’opera.
Alcune aziende che lavorano sull’IA sostengono che acquistare legalmente un libro, trasformarne il contenuto in dati destinati all’addestramento e successivamente distruggere la copia fisica possa rafforzare l’interpretazione secondo cui l’utilizzo è trasformativo.
La questione, tuttavia, rimane tutt’altro che chiusa perchè il rapporto tra addestramento dell’IA, copyright e fair use è al centro di un acceso confronto tra aziende tecnologiche, autori, editori e giuristi.
Un primo riconoscimento di questa impostazione è arrivato da una recente sentenza statunitense relativa ad Anthropic, ma il dibattito giuridico è ancora aperto.
Il problema del «data poisoning»
C’è poi un’altra minaccia che rende i vecchi libri particolarmente interessanti per chi sviluppa sistemi di IA: il data poisoning, cioè l'»avvelenamento dei dati». Si tratta di tecniche attraverso cui possono essere inseriti nei contenuti elementi difficilmente individuabili da una persona, ma capaci di interferire con il comportamento di un modello durante l’addestramento.
L’obiettivo può essere quello di rendere più difficile l’utilizzo non autorizzato di un’opera protetta ma un testo presente online, infatti, può essere modificato o manipolato prima di essere raccolto dai sistemi automatici che costruiscono i dataset. Un libro stampato prima dell’avvento dell’IA generativa, invece, non può essere stato sottoposto a questo tipo di «avvelenamento» digitale.
È anche per questo che i testi cartacei più vecchi possono rappresentare una fonte particolarmente interessante di dati.
250-500 documenti per creare una «backdoor»
Secondo una ricerca interna citata dalla società ISBNdb, che offre alle aziende di IA servizi per l’acquisizione all’ingrosso di libri cartacei, il problema del data poisoning potrebbe avere conseguenze rilevanti anche su dataset giganteschi.
La ricerca indica che potrebbero essere sufficienti 250-500 documenti «avvelenati» all’interno di un archivio composto da migliaia di miliardi di token per introdurre una possibile backdoor. I token sono le unità di testo attraverso cui i modelli di IA elaborano il linguaggio: possono corrispondere a parole intere, parti di parole o altri frammenti testuali.
Una backdoor, invece, è una sorta di «porta nascosta» che può indurre un modello a comportarsi in maniera anomala quando riceve determinati input. La reale efficacia e la portata di queste tecniche sono ancora oggetto di studio. Tuttavia, il rischio del data poisoningcontribuisce a spiegare perché i laboratori di IA siano sempre più interessati a fonti cartacee difficili da manipolare digitalmente.
La nuova corsa alla carta
La corsa ai vecchi libri racconta così un paradosso della rivoluzione dell’intelligenza artificiale: dopo anni trascorsi a raccogliere dati dal web, le aziende tecnologiche stanno tornando alla carta per trovare contenuti umani considerati più affidabili. Ma per ottenere quei dati, in alcuni casi, i libri vengono acquistati, tagliati, scansionati e infine distrutti.
Da una parte c’è quindi la necessità di alimentare modelli sempre più grandi con dati di qualità; dall’altra emerge il rischio che, nella corsa all’addestramento dell’IA, vengano sacrificati volumi che continuano a rappresentare una parte della memoria culturale e linguistica.
© RIPRODUZIONE RISERVATA
Leave feedback about this