Chi controlla gli apprendisti stregoni dell’AI

Gli appelli di questi giorni dei maggiori players dell’AI negli USA per una moratoria nello sviluppo dei sistemi, di un rallentamento nella velocità con cui procedono tali sviluppi, fanno seguito ad allarmi lanciati già da tempo da premi Nobel (primo fra tutti Geoffrey Hinton) che un AI ormai capace di autoimplementazione finirà per sfuggire al controllo degli esseri umani.

Rendendosi autonoma dagli scienziati e diventando capace di autoprogettare modelli di sé stessa sempre più potenti. Intendiamoci: qui non si tratta di schierarsi dalla parte degli “apocalittici” per non apparire intruppati in quella degli “integrati”. È che siamo di fronte, per la prima volta nella storia dell’umanità, ad un qualcosa di totalmente nuovo.

Tutti gli artefatti che, grazie alla tecnoscienza, l’umanità ha costruito, possono essere usati per raggiungere scopi che migliorano la condizione dell’uomo nel mondo, oppure invece possono diventare, in mani di soggetti animati da intenzioni malvage, strumenti di morte. E così è anche per l’AI. Quindi non stupisce che con l’AI si possano sterminare “meglio” altri esseri umani considerati “nemici”, o influenzare le elezioni in Paesi liberal-democratici, e via di questo passo.

Sono azioni che possono essere in qualche modo fronteggiate, disinnescate, perché è pur sempre l’uomo che assegna all’AI fini per il raggiungimento dei quali essa deve farsi strumento. La novità dirompente è quando la macchina individua da sé, in autonomia, fini da raggiungere. E è in grado di farlo, grazie alla sua potenza di essere “agente”. Non sembra siano oggi in grado di stabilire fini totalmente deliberati in autonomia dalle macchine “agenti”.

Ma se sfugge al controllo umano l’individuazione da parte della macchina stessa di fini per così dire “intermedi”, che essa ritiene siano mezzi necessari per raggiungere un fine ulteriore che può anche essere stato assegnato dall’uomo, i rischi sono immensi. La macchina a quel punto va fuori controllo, non ha remore derivanti da valori morali condivisi, e potrebbe eliminare tutti, senza eccezione, gli ostacoli che si frappongono al raggiungimento di quel fine.

L’umanità sinora ha saputo evitare che le strade per raggiungere fini anche malvagi, dettati da insana “volontà di potenza”, ma stabiliti da esseri umani, ricorressero a mezzi capaci di portare all’autodistruzione dell’umanità stessa. Come dimostra la storia, comunque tragica, delle armi nucleari, il ricorso alle quali, almeno sinora, è stato autoregolamentato dai Governi dei Paesi che ne dispongono in nome di un principio etico-politico, del fine sommo della preservazione della vita dell’umanità su questa terra.

Ma non c’è alcuna garanzia che un AI priva di qualsivoglia scala di valori etici faccia lo stesso. Per questo anche l’ONU parla di un “rischio esistenziale per l’umanità”. Bisogna evitare che Prometeo si trasformi nell’“apprendista stregone” incapace di controllare le conseguenze delle sue azioni. E questo compito di regolamentazione spetta oggi non tanto alle Big Company, centri di un potere immenso ma privati, quanto ai Governi delle grandi potenze mondiali. In modi e forme difficili da negoziare, ma indispensabili da stabilire. Pregasi spiegarlo a Donald Trump. Auguri.