Preferisci ascoltare? Clicca play! Getting your Trinity Audio player ready...

Il problema del watermark nei testi generati dall’intelligenza artificiale potrebbe essere stato interpretato al contrario e diventare un’ancora di salvataggio.

La prima reazione è stata quasi inevitabile: se un testo prodotto da Claude contiene una filigrana invisibile che permette di riconoscere l’intervento dell’intelligenza artificiale, allora il watermark è soprattutto uno strumento di controllo. Serve a scoprire chi ha usato l’IA, a identificare un compito scolastico, un articolo, una relazione, un documento che non siano interamente umani. In realtà la sua conseguenza più interessante è un’altra e rischia d’essere uno dei capisaldi del futuro utilizzo dell’IA. Questo perché il watermark potrebbe costringerci a usare meglio l’intelligenza artificiale. A usarla assumendoci nuovamente la responsabilità di ciò che facciamo controllando ciò che facciamo e quindi, di conseguenza, dando il corretto valore a ciò che facciamo.

Nel momento in cui diventa tecnicamente possibile lasciare nel testo una traccia del lavoro compiuto dal programma cambia anche l’incentivo di chi utilizza quel programma. Diventa meno conveniente chiedere a un sistema di generare qualcosa, copiarlo, consegnarlo e dimenticarsene. Il testo che esce dall’IA non è più soltanto un testo estremamente facile da ottenere ma porta con sé, almeno potenzialmente, l’indicazione della propria provenienza. Giocando un poco con i termini si potrebbe (volontariamente) confondere nella succitata frase l’indicazione con l’identità.

La scorciatoia diventa visibile

Anthropic ha introdotto nei nuovi modelli Claude un watermark statistico. Non si tratta di caratteri nascosti o di metadati facilmente cancellabili: il segnale viene incorporato nel processo con cui il modello sceglie le parole successive. Conoscendo la chiave utilizzata per generarlo è quindi possibile valutare statisticamente (e con certa facilità) la probabilità che Claude abbia partecipato alla produzione o alla trasformazione di un testo. Anthropic precisa che il sistema non contiene informazioni sull’utente, sull’organizzazione o sulla conversazione e che non determina né la proprietà né l’autorialità del contenuto. Dice una cosa molto più circoscritta: Claude potrebbe essere intervenuto nella sua elaborazione. Questa distinzione è importante.

Un watermark non ci dice chi abbia avuto un’idea. Non ci dice chi abbia condotto una ricerca, verificato un dato, concepito un argomento o assunto una decisione. Non può stabilire neppure quanto dell’elaborazione complessiva appartenga all’uomo e quanto alla macchina. Ci dice però che la macchina è passata di lì. E proprio perché dice così poco finisce paradossalmente per imporre all’essere umano una domanda tanto semplice quanto impegnativa: tu che cosa hai fatto?

È questa, più della caccia al testo artificiale, la questione che il watermark porta con sé. Perché inevitabilmente l’impegno umano comporta esperienza, consapevolezza, identità (appunto), partecipazione, valorizzazione. Una risposta facile invece omologa al ribasso tutto togliendo valore a tutto.

«Fatto con l’IA» non significa più nulla

Negli ultimi due anni abbiamo progressivamente accettato un’espressione tanto comune quanto imprecisa: «fatto con l’intelligenza artificiale». Ma esattamente cosa significa? Che si è chiesto a un modello di controllare le date in un articolo? Che si è sottoposto un testo per individuare incongruenze logiche? Che si sono fatti confrontare diversi documenti? Oppure che si è scritto un prompt di tre righe ricevendo duemila parole, copiando il risultato e premendo “invia”?

In effetti tutte queste sono attività compiute «con l’intelligenza artificiale», ma hanno indiscutibilmente un valore radicalmente diverso.

Il vero problema non è che l’IA lavori al posto nostro

Si consideri un presupposto molto pratico: la delega è alla base di qualsiasi organizzazione complessa. Deleghiamo a un correttore la ricerca di un refuso, a un foglio elettronico un calcolo, a un software l’impaginazione, a un motore di ricerca il reperimento di un documento. Non esiste alcuna ragione per la quale non dovremmo delegare a un’intelligenza artificiale operazioni che essa può compiere meglio o più rapidamente di noi. Il problema nasce quando la delega diventa deresponsabilizzazione.

Se si considera poco importante una relazione si può chiedere all’IA di scriverla e non leggerla. Se si considera poco importante un articolo si può farle cercare le fonti senza verificare che esistano. Se si considera poco importante un progetto si può delegarne persino la struttura senza chiedermi se abbia senso.

In tutti questi casi il vero atto di svalutazione non consiste nell’avere utilizzato l’intelligenza artificiale ma nell’avere stabilito, implicitamente, che quel lavoro non meritava più il nostro controllo. L’IA permette questa svalutazione perché riduce enormemente il costo della produzione. Un testo di dieci pagine che richiedeva ore può essere ottenuto in pochi minuti. Ed è facile compiere un errore concettuale: se è diventato economico produrlo, allora deve essere economico anche controllarlo.

Quando la verosimiglianza diventa verità

C’è poi un problema ancora più profondo perché riguarda non ciò che l’intelligenza artificiale fa, ma il modo in cui l’essere umano tende a percepirlo. Un sistema generativo non ha bisogno che una risposta sia vera per formularla in maniera convincente: deve produrre una continuazione linguisticamente plausibile, coerente con il contesto e compatibile con i modelli appresi durante l’addestramento.

È questa capacità a renderlo utile, ma anche insidioso. Una risposta sbagliata dell’IA raramente ha l’aspetto dell’errore: possiede sintassi corretta, lessico appropriato, una struttura argomentativa ordinata, può contenere date, nomi, riferimenti bibliografici, percentuali e perfino spiegazioni delle proprie conclusioni. In altre parole possiede tutti quei segnali esteriori attraverso i quali siamo abituati a riconoscere un discorso competente. La macchina può quindi produrre falsità verosimili. Ed è questa verosimiglianza a modificare il rapporto tra strumento e utilizzatore.

Di fronte a un motore di ricerca siamo abituati, almeno in linea di principio, a distinguere lo strumento dalle fonti: il motore ci conduce a un documento che possiamo leggere e valutare. Nel dialogo con un modello generativo, invece, fonte, elaborazione e risposta tendono a fondersi in un unico interlocutore. L’informazione ci arriva già interpretata, organizzata e formulata con sicurezza; la fatica cognitiva necessaria per dubitarne aumenta proprio mentre diminuisce quella necessaria per ottenerla. Si crea così un paradosso: quanto più l’IA diventa capace di fornire risposte linguisticamente perfette, tanto più diventa necessario controllarle, ma tanto meno l’utente percepisce spontaneamente la necessità di farlo.

Il punto critico quindi è la fiducia dell’essere umano nell’apparenza di competenza dell’intelligenza artificiale. È qui che delega e deresponsabilizzazione rischiano di coincidere. Controllare una risposta dell’IA significa infatti compiere nuovamente un lavoro, significa accettare che l’IA possa offrirci rapidamente una risposta senza poterci trasferire, insieme alla risposta, la responsabilità di crederle. La questione decisiva non è se l’intelligenza artificiale sia affidabile o inaffidabile in assoluto, ma quale rapporto epistemico instauriamo con essa. Un uso maturo dovrebbe considerare ogni output non come il punto di arrivo della conoscenza ma come un oggetto da valutare: talvolta corretto, talvolta eccellente, talvolta incompleto e talvolta falsamente convincente. Nel momento in cui l’utente smette di effettuare questa distinzione non sta soltanto affidando un lavoro al programma, gli sta delegando anche il giudizio sulla correttezza del lavoro stesso.

Il watermark aumenta nuovamente il costo della responsabilità

È qui che il watermark diventa interessante. Non perché renda impossibile delegare il lavoro all’IA ma perché rende potenzialmente riconoscibile quella delega. Di fronte a questa riconoscibilità l’utente ha due possibilità: la prima consiste nell’accettare integralmente il prodotto della macchina, la seconda consiste nel lavorare su quel prodotto assumendosi infine la responsabilità del risultato.

È quest’ultima attività che restituisce valore al lavoro umano. Non perché cancelli magicamente la presenza dell’IA né perché lo scopo debba essere “battere il detector”. Sarebbe una conclusione tanto ingenua quanto pericolosa. Il punto è esattamente opposto. Il testo deve cambiare perché un essere umano lo ha realmente lavorato, lo ha realmente reso compatibile con la sua attivitò e obiettivo, non perché qualcuno desidera nascondere la macchina.

Ed è qui che l’AI Act diventa sorprendentemente interessante

La normativa europea sembra avere intuito questa distinzione: l’articolo 50 dell’AI Act stabilisce che i sistemi generativi debbano consentire di riconoscere i contenuti artificialmente generati o manipolati attraverso marcature leggibili meccanicamente. Prevede però un’eccezione quando il sistema svolge soltanto una funzione assistiva di editing standard o non altera sostanzialmente l’input e la sua semantica.

Ancora più significativo è ciò che accade con i testi pubblicati per informare il pubblico su questioni di interesse pubblico.

In linea generale l’utilizzatore deve dichiarare che il testo è stato generato o manipolato artificialmente. Ma l’obbligo viene meno quando il contenuto è stato sottoposto a revisione umana o controllo editoriale e una persona fisica o giuridica ne assume la responsabilità editoriale. La Commissione europea ha poi precisato cosa intende per revisione umana: non basta correggere gli errori grammaticali né basta sistemare la punteggiatura. La revisione deve riguardare la sostanza del contenuto ed essere effettuata da persone dotate delle conoscenze e del giudizio professionale necessari. Il controllo editoriale comprende la possibilità concreta di approvare, modificare o respingere il testo sulla base del suo contenuto verificando anche le informazioni e l’affidabilità delle fonti.

La differenza tra generare e lavorare

Si consideri questo articolo. Un modello linguistico lo può produrre in pochi secondi, si ipotizzino tremila parole apparentemente plausibili. Può organizzarle, mettere titoli, citare studi, costruire transizioni eleganti.

Non per questo può essere considerato un articolo finché non c’è una verifica delle fonti, finché non c’è una posizione personale o professionale che comunichi qualcosa che vada ben oltre la semplice esposizione. Soprattutto non diventa un articolo finché non c’è qualcuno che si domanda se ciò che il testo afferma corrisponde davvero a ciò che si vuole sostenere.

Questo lavoro non è assolutamente un residuo artigianale destinato a essere eliminato ma il valore, in questo caso, del testo. Ampliando

la casistica diventa il valore di un progetto, di un processo, di un lavoro. Diventa la sua capacità di diventare efficace o anche solo interessante.

Il mito della produttività

Una delle promesse centrali dell’intelligenza artificiale è l’aumento della produttività, e questo è probabilmente vero. Ma la parola produttività contiene un equivoco. Se prima si impiegava quattro ore a produrre una relazione ora si può ottenerla in trenta minuti. Si guadagnano tre ore e mezza. Di conseguenza si può utilizzare quel tempo in due modi: si possono produrre otto relazioni invece di una, oppure si può utilizzare una parte del tempo liberato per rendere migliore quella relazione controllando più fonti, confrontando dati, correggendo errori e soprattutto sviluppando una posizione personale. La prima strada moltiplica l’output, la seconda moltiplica la qualità.

Non c’è nulla nella tecnologia che ci obblighi a scegliere la seconda strada. Il watermark però introduce un incentivo nuovo. Se la provenienza artificiale può diventare riconoscibile il valore non è più nella semplice produzione del testo perché produrre testo diventa la parte meno costosa dell’intero processo.

Il valore si sposta verso ciò che non può essere certificato dal watermark: il giudizio, la selezione, la verifica, la decisione, la responsabilità.

Se non si controlla non interessa

Quanto appena detto porta a una conseguenza ancora più scomoda: consegnare senza controllo ciò che ha prodotto l’IA significa attribuire poco valore al compito, al testo, al progetto. Questo perché se il risultato di quel lavoro conta davvero si deve voler sapere che cosa contiene.

Se si prepara una relazione dalla quale dipenderà una decisione aziendale, va controllata. Se si pubblica un articolo che orienterà l’opinione di qualcuno si devono verificare le informazioni. Se si prepara un progetto che impegnerà risorse economiche si devo comprenderne ogni passaggio. Se non si è disposti a farlo si sta implicitamente dicendo che quella relazione, quell’articolo, quel progetto non meritano abbastanza tempo da essere verificati. La svalutazione del lavoro nasce qui.

Il watermark può produrre l’effetto opposto a quello temuto

Il watermark è stato presentato soprattutto come un sistema per distinguere l’uomo dalla macchina, ma è decisamente chiaro che non potrà mai farlo in maniera netta. La stessa tecnologia sulla quale si basa l’approccio di Anthropic ha limiti riconosciuti dagli autori: le modifiche sostanziali, e in particolare le parafrasi operate anche attraverso altri modelli, possono indebolire il segnale. Inoltre il watermark richiede la cooperazione dei soggetti che gestiscono i sistemi generativi e non risolve da solo il problema dell’identificazione di tutti i testi artificiali.

Il watermark però può spronare all’attenzione l’utente. In sintesi la domanda da porsi non dovrebbe più essere: «Hai usato l’intelligenza artificiale?». Ma «Che cosa hai fatto tu dopo averla usata?».

Una tecnologia della responsabilità

Il limite d’efficacia del watermark potrebbe diventare un vantaggio culturale, imprenditoriale, innovativo. Ogni cosa che obbliga a separare produzione da partecipazione porta a separare precarietà da responsabilità. Ed è forse proprio questa la trasformazione più importante introdotta dall’intelligenza artificiale.

Quando tutti potranno generare un buon testo in pochi secondi, non avrà quasi più valore il fatto di averlo generato. Avrà valore l’averlo capito, l’averlo verificato, l’averlo modificato. In un’unica formula l’averlo partecipato così tanto da possederlo.

Il watermark, nato come tecnologia della trasparenza e della tracciabilità, potrebbe costringere a rivalutare il lavoro umano proprio mentre l’intelligenza artificiale sembra renderlo superfluo. Potrebbe costringere il lavoro umano stesso a utilizzare l’Intelligenza artificiale non come sostituto ma come leva.

Quello che, in fondo, dovrebbe essere.