Non preoccupiamoci dell’IA, ma della qualità dei contenuti che produciamo

Lei denuncia il clima di caccia alle streghe, troppi titoli urlati sull’IA. E’ un grande inganno o un’eccezionale opportunità?

Se diamo enfasi alle polarizzazioni estreme, ridando vita alle categorie che Umberto Eco aveva nel celebre scritto degli anni sessanta definito degli “apocalittici” e degli “integrati”, non arriviamo a nessuna soluzione. Bisogna fare uno sforzo per centrare l’attenzione sulle potenzialità che sono tante e sui rischi che pure esistono, quando affrontiamo questi argomenti, senza dividerci in sterili contrapposizioni. Il mio mestiere è insegnare a usare con consapevolezza l'intelligenza artificiale, credo che a dispetto dello scalpore sollevato dagli ultimi fatti di cronaca, siamo di fronte a una tecnologia straordinaria a patto di utilizzarla come punto di partenza e non come punto di arrivo.

Intanto stiamo abbattendo la differenza tra vero e falso, che non sono distinguibili. La creatività individuale è messa sotto scacco, non sappiamo neanche valutare se dietro un romanzo esiste uno scrittore in carne e ossa. Quali sono conseguenze di tutto questo?

La questione è mal posta. Dobbiamo cambiare l’approccio per orientarci. L'AI deve aiutarci a pensare, esplorare, verificare, sperimentare, produrre, non certo a spegnere il cervello per delegare tutto. Discutiamo della qualità dei contenuti prodotti con l’IA senza vivere questo come una colpa da smascherare. Quando il dibattito passa dalla validità dei contenuti, al sistema della loro produzione, si compie un salto logico fuorviante. Le due domande sono molto diverse e la seconda, presa singolarmente, non ci consente di comprende a fondo sulla qualità che è molto più pressante oggi.

La riflessione di tutta l’industria dell’editoria guarda con timore crescente all’autenticità dei processi di creazione della scrittura. Grande tema che da preoccupava già Platone, che con il diffondersi della parola scritta temeva la perdita della memoria. Niente di nuovo dunque?

Il nuovo fa sempre paura, genera ritrosie e sospetto. Il problema è antropologico prima ancora che tecnologico. Abbiamo un bisogno quasi ossessivo di scoprire se qualcuno ha utilizzato l'AI, quando in realtà non ci interroghiamo mai sulla filiera di produzione di un testo e, soprattutto, non siamo mai stati particolarmente interessati a conoscerla. Da secoli leggiamo contenuti firmati da una persona senza sapere chi li abbia materialmente scritti: esiste il ghost writing, esistono le redazioni, gli editor, i collaboratori, i traduttori. Esistono persone che preparano discorsi che poi qualcun altro pronuncia. Per anni abbiamo accettato tutto questo senza particolari problemi. Un politico può pronunciare un discorso che non ha materialmente scritto, un manager può firmare un articolo preparato da un collaboratore, un accademico può pubblicare un paper scritto insieme a un'intera équipe. Nessuno si è mai messo sistematicamente a chiedere: “Scusa, ma chi ha premuto i tasti?”.

Imprese e istituzioni hanno lanciato un alert. Non era mai avvenuto a questi livelli, come se lo spiega?

La rivoluzione in atto ha delle connotazioni uniche. La velocità è la prima. I ritmi di diffusione di ChatGPT e degli altri applicativi non hanno precedenti nella storia. La facilità altro aspetto. Parliamo con la tecnologia, entrando in comunicazione con essa che ci dà delle risposte nel nostro linguaggio. Questo apre un fronte delicato di analisi.

Cosa intende dire?

Che dobbiamo distinguere tra la comunicazione e la relazione che non è fatta solo di un passaggio di informazione, ma di una capacità critica di rielaborazione dei contenuti. La domanda non deve essere se la macchina mi ha aiutato a produrre un testo, ma se mi ha sostituito facendomi spegnere il cervello. La parola chiave diventa dunque responsabilità sui contenuti che firmo.

Problema impegnativo anche per chi fa il nostro mestiere di giornalisti, nell’era delle fake e dei falsi autorizzati. Come se ne esce?

Lavorando per la qualità dei contenuti e sulla serietà delle fonti che dipendono dalla responsabilità dei giornalisti e di chi fa informazione. Quando leggo qualcosa voglio che mi faccia pensare, che mi insegni qualcosa, che mi emozioni, mi faccia arrabbiare, mi convinca o magari mi faccia cambiare idea. Non mi interessa sapere quanta fatica biologica è stata necessaria per produrla. Ci sono testi meravigliosi scritti da esseri umani, come del resto ne esiste una quantità enorme di incomprensibili. Lo stesso vale per i libri, i film e le canzoni. Il bollino “prodotto da un essere umano” non è dunque un bollino di qualità, soprattutto, non è una garanzia di autenticità.

Non confondere l’origine con il valore effettivo dei contenuti, potrebbe essere la strada giusta?

Il dibattito attuale sta generando confusione tra l'origine materiale di un contenuto e l'esperienza che quel contenuto produce in chi lo legge. Un testo può essere stato scritto interamente da un individuo e non avere nulla da dire. Al contrario, può essere stato prodotto con il supporto dell'intelligenza artificiale e riuscire invece a mostrare qualcosa che prima non si vedeva. Ha più valore un testo che genera qualcosa in chi lo legge. Se mi dà chiarezza, mi emoziona, mi fa arrabbiare, mi fa sorridere, mi mostra una prospettiva nuova o mi cambia un'opinione, ha fatto esattamente ciò per cui la scrittura esiste.

Non dobbiamo dunque interrogarci se dietro un’opera ci sia una persona che ha lavorato su una tastiera per otto ore oppure con un modello di AI?

L’esercizio critico e la responsabilità rimangono fondamentali. Se firmo un contenuto, sono responsabile di quello che contiene: informazioni sbagliate, fonti che non ho verificato, conseguenze delle mie parole. Questo vale indipendentemente dal fatto che io abbia scritto tutto da solo, abbia utilizzato un collaboratore, un editor o un sistema di intelligenza artificiale. Direi di più: l'arrivo dell'AI dovrebbe spingerci proprio in questa direzione: più attenzione alla qualità di un testo, alle fonti e meno ossessione per la provenienza materiale del testo. Diffidare di un contenuto e verificarne le fonti è sacrosanto, chiedersi chi lo ha scritto può essere utile, ma pensare che sapere se è stato utilizzato un modello di AI ci permetta automaticamente di stabilirne il valore è tutt’altra cosa.