Innovazione

Il sonno fa bene anche alle intelligenze artificiali

Dormire serve a consolidare i ricordi: vale anche per le reti neurali artificiali, che grazie al sonno riescono ad apprendere più compiti per volta.

Un buon sonno è la perfetta conclusione di una giornata ricca di nuove esperienze: mentre il corpo riposa il cervello ha tutto il tempo necessario per lasciar depositare i nuovi ricordi e rafforzare così l'apprendimento. Vale per l'uomo ma anche per le IA: in base a uno studio in pubblicazione su PLoS Computational Biology, il sonno - o meglio, il suo equivalente artificiale - evita che le intelligenze artificiali dimentichino le conoscenze appena apprese.

Una cosa alla volta. Come sappiamo, molte intelligenze artificiali possono diventare iperspecializzate in un singolo compito, reiterando più volte la stessa procedura di addestramento su tutti i dati disponibili. Forse meno noto è che, spesso, le IA possono padroneggiare soltanto un set specifico di informazioni per volta. Non riescono ad aggiungere strati successivi di conoscenza a quello che hanno già imparato, senza perdere le capacità precedentemente acquisite.

Questa caratteristica è un problema quando si vuole imitare il tipo di apprendimento tipico dell'uomo, definito continuo: nel cervello umano i ricordi si stratificano, e ci basta osservare qualcosa anche una sola volta per conservarne un ricordo, seppure impreciso nella memoria. È questo il modo in cui accumuliamo conoscenza.

Dormici su. Pavel Sanda e i colleghi dell'Istituto di Informatica dell'Accademia ceca delle Scienze (Repubblica Ceca) hanno istruito un tipo particolare di rete neurale artificiale a imparare due compiti diversi senza "sovrascrivere" il secondo blocco di informazioni su quello appena acquisito.

Il team ha lavorato su una rete neurale spiking, in pratica un modello matematico e informatico per l'elaborazione delle informazioni, ispirato alle connessioni tra neuroni. Per riuscire in questa missione ed evitare che il secondo compito da imparare provocasse una catastrofica perdita di quello appena appreso, gli scienziati hanno provato a inserire nel training anche periodi di "sonno simulato".

Ma come dormono le reti neurali? Per simulare il sonno, il team ha stimolato i neuroni artificiali in un modo caotico, riproducendo l'attività disordinata delle nostre cellule nervose mentre dormiamo. Non solo. Gli scienziati si sono assicurati che questa attività, nel suo disordine, ripercorresse comunque la sequenza di attivazione neurale della sezione di apprendimento - l'equivalente del "replay" dei ricordi che avviene nel nostro cervello durante il sonno e che consolida la memoria.

Quando è meglio dormire? Il pisolino artificiale ha aiutato l'IA a consolidare le connessioni imparate nel primo compito, che altrimenti sarebbero state dimenticate, e ad accumularne di nuove, ma solo quando gli scienziati hanno intervallato rapide sessioni di apprendimento e di sonno in sequenza.

Non ha funzionato invece quando il periodo di sonno è stato aggiunto alla fine (primo compito + secondo compito + sonno): in quel caso, le connessioni apprese nel primo compito sono andate perse. La rete neurale così istruita è riuscita a imparare due diverse strategie per cercare del cibo simulato evitando particelle velenose.

Siesta obbligatoria! La cura del sonno potrebbe aiutare ad addestrare le intelligenze artificiali ad accumulare conoscenze e a usarle per affrontare situazioni successive. Il prossimo passo sarà testare lo stesso approccio con compiti più complessi e sui network di reti neurali usati dalle grande aziende, come quelle di Google e Meta.

14 novembre 2022 Elisabetta Intini
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Scipione e Annibale, Mario e Silla, Demostene e Filippo II di Macedonia... I giganti della Storia che hanno passato la loro vita a combattersi, sui campi di battaglia e non solo. E ancora: l'omicidio di Ruggero Pascoli, il padre del famoso poeta, rimasto impunito; il giro del mondo di Magellano e di chi tornò per raccontarlo; la rivoluzione scientifica e sociale della pillola anticoncezionale; nelle prigioni italiane dell'Ottocento; come, e perché, l'Inghilterra iniziò a colonizzare l'Irlanda.

 

ABBONATI A 29,90€

Tigri, orsi, bisonti, leopardi delle nevi e non solo: il ricco ed esclusivo dossier di Focus, realizzato in collaborazione con il Wwf, racconta casi emblematici di animali da salvare. E ancora: come la plastica sta entrando anche nel nostro organismo; che cos’è l’entanglement quantistico; come sfruttare i giacimenti di rifiuti elettronici; i progetti più innovativi per poter catturare l’anidride carbonica presente nell’atmosfera.

ABBONATI A 31,90€
Follow us