Macchine che pensano (ma non sappiamo come)
La resa è spesso eccellente, la logica sottostante resta insondabile: e la verità, piuttosto scomoda, è che nemmeno chi ha progettato quei sistemi lo sa con esattezza
Leonardo Felician
C'è un paradosso che accompagna ormai ogni conversazione con un chatbot di ultima generazione: più le sue risposte sembrano intelligenti, meno siamo in grado di spiegarcele davvero. Chiedete a uno di questi sistemi di argomentare una tesi complessa, di scrivere un sonetto a tema o di stanare un errore nascosto in poche righe di codice, e otterrete quasi sempre un risultato che definire sorprendente è riduttivo.
Provate però a chiedergli come sia arrivato a quella risposta, perché abbia scelto proprio quella parola e non un'altra, e la spiegazione che riceverete sarà, nella grande maggioranza dei casi, una ricostruzione plausibile ma costruita a posteriori. Lo stesso vale se gli chiedete di tradurre un testo tecnico, di riassumere un contratto o di suggerire una diagnosi a partire da alcuni sintomi: la resa è spesso eccellente, la logica sottostante resta insondabile.
La verità, piuttosto scomoda, è che nemmeno chi ha progettato quei sistemi lo sa con esattezza.
Il progetto di costruire una mente artificiale nacque nel 1950, quando Alan Turing pubblicò sulla rivista Mind un saggio di straordinaria innovazione, una vera pietra miliare nel quale propose di sostituire la domanda «le macchine possono pensare?» con qualcosa di più verificabile: il celebre gioco dell'imitazione, oggi noto ai più come test di Turing.
Da quell'intuizione derivò un intero campo di ricerca che con un cammino tutt'altro che lineare è arrivato ai sistemi di oggi, ormai capaci di superare il test di Turing. Sappiamo però cosa entra e cosa esce da un modello linguistico, ma il percorso in mezzo resta un enigma, anche per chi quei sistemi li ha progettati.
(*) Docente di Data Analytics for Finance and Insurance, MIB Trieste School of Management
Riproduzione riservata © il Nord Est
