Cosa sono le abilità emergenti della GEN-AI
Si tratta di risposte sorprendenti, che vanno oltre l’addestramento ricevuto e mostrano una rielaborazione autonoma dei concetti appresi
Leonardo Felician
Le abilità emergenti sono una delle caratteristiche più inaspettate e interessanti della GEN-AI. Si tratta di risposte sorprendenti, che vanno oltre l’addestramento ricevuto e mostrano una rielaborazione autonoma dei concetti appresi.
Questo comportamento è comparso per la prima volta a partire dal 2018, quando i Large Language Models (LLM) hanno superato i 100 milioni di parametri elaborati. Chi si stupisce, deve fare un paragone con i bambini piccoli, che cominciano a parlare tra 1 e 2 anni ripetendo parole e concetti uditi: ben presto, sulla base dell’apprendimento, cominciano però a fare considerazioni autonome e originali. Quest’esperienza è ben nota ai genitori, spesso stupiti dalle prime considerazioni “intelligenti” dei propri figli molto piccoli.
Secondo alcuni studi, a 5 anni un bambino ha già ascoltato circa 5 milioni di parole nella sua lingua madre, ovviamente ripetute, perché nessuna lingua dispone di tanti termini: un adulto italiano conosce in media tra 20.000 e 30.000 parole, ma per comunicare efficacemente ne bastano solo 6-7.000.
Un bambino che a 5 anni parla con scioltezza lo fa grazie a un’esposizione massiccia e ripetuta agli stessi vocaboli, forme grammaticali e verbi declinati. I moderni sistemi come GPT-4 di OpenAI sono stati addestrati su 1.700 miliardi di parametri, equivalenti non a 5 milioni, ma a circa 1 miliardo di parole. Non stupisce perciò che un LLM così addestrato riesca a manipolare i concetti non come un bambino, ma piuttosto con la complessità e la competenza linguistica di un adulto.
(*) Docente di Big Data Management, MIB Trieste School of Management
Riproduzione riservata © il Nord Est
