Innovazione

Il sonno fa bene anche alle intelligenze artificiali

Dormire serve a consolidare i ricordi: vale anche per le reti neurali artificiali, che grazie al sonno riescono ad apprendere più compiti per volta.

Un buon sonno è la perfetta conclusione di una giornata ricca di nuove esperienze: mentre il corpo riposa il cervello ha tutto il tempo necessario per lasciar depositare i nuovi ricordi e rafforzare così l'apprendimento. Vale per l'uomo ma anche per le IA: in base a uno studio in pubblicazione su PLoS Computational Biology, il sonno - o meglio, il suo equivalente artificiale - evita che le intelligenze artificiali dimentichino le conoscenze appena apprese.

Una cosa alla volta. Come sappiamo, molte intelligenze artificiali possono diventare iperspecializzate in un singolo compito, reiterando più volte la stessa procedura di addestramento su tutti i dati disponibili. Forse meno noto è che, spesso, le IA possono padroneggiare soltanto un set specifico di informazioni per volta. Non riescono ad aggiungere strati successivi di conoscenza a quello che hanno già imparato, senza perdere le capacità precedentemente acquisite.

Questa caratteristica è un problema quando si vuole imitare il tipo di apprendimento tipico dell'uomo, definito continuo: nel cervello umano i ricordi si stratificano, e ci basta osservare qualcosa anche una sola volta per conservarne un ricordo, seppure impreciso nella memoria. È questo il modo in cui accumuliamo conoscenza.

Dormici su. Pavel Sanda e i colleghi dell'Istituto di Informatica dell'Accademia ceca delle Scienze (Repubblica Ceca) hanno istruito un tipo particolare di rete neurale artificiale a imparare due compiti diversi senza "sovrascrivere" il secondo blocco di informazioni su quello appena acquisito.

Il team ha lavorato su una rete neurale spiking, in pratica un modello matematico e informatico per l'elaborazione delle informazioni, ispirato alle connessioni tra neuroni. Per riuscire in questa missione ed evitare che il secondo compito da imparare provocasse una catastrofica perdita di quello appena appreso, gli scienziati hanno provato a inserire nel training anche periodi di "sonno simulato".

Ma come dormono le reti neurali? Per simulare il sonno, il team ha stimolato i neuroni artificiali in un modo caotico, riproducendo l'attività disordinata delle nostre cellule nervose mentre dormiamo. Non solo. Gli scienziati si sono assicurati che questa attività, nel suo disordine, ripercorresse comunque la sequenza di attivazione neurale della sezione di apprendimento - l'equivalente del "replay" dei ricordi che avviene nel nostro cervello durante il sonno e che consolida la memoria.

Quando è meglio dormire? Il pisolino artificiale ha aiutato l'IA a consolidare le connessioni imparate nel primo compito, che altrimenti sarebbero state dimenticate, e ad accumularne di nuove, ma solo quando gli scienziati hanno intervallato rapide sessioni di apprendimento e di sonno in sequenza.

Non ha funzionato invece quando il periodo di sonno è stato aggiunto alla fine (primo compito + secondo compito + sonno): in quel caso, le connessioni apprese nel primo compito sono andate perse. La rete neurale così istruita è riuscita a imparare due diverse strategie per cercare del cibo simulato evitando particelle velenose.

Siesta obbligatoria! La cura del sonno potrebbe aiutare ad addestrare le intelligenze artificiali ad accumulare conoscenze e a usarle per affrontare situazioni successive. Il prossimo passo sarà testare lo stesso approccio con compiti più complessi e sui network di reti neurali usati dalle grande aziende, come quelle di Google e Meta.

14 novembre 2022 Elisabetta Intini
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

L’incredibile vita di Guglielmo Marconi, lo scienziato-imprenditore al quale dobbiamo Gps, Wi-Fi, Internet, telefonia mobile… Per i 150 anni della sua nascita, lo ricordiamo seguendolo nelle sue invenzioni ma anche attraverso i ricordi dei suoi eredi. E ancora: come ci si separava quando non c’era il divorzio; il massacro dei Tutsi da parte degli Hutu nel 1994; Marco De Paolis, il magistrato che per 15 anni ha indagato sui crimini dei nazisti; tutte le volte che le monarchie si sono salvate grazie alla reggenza.

ABBONATI A 29,90€

Nutritivo, dinamico, protettivo: il latte materno è un alimento speciale. E non solo quello umano. Molti mammiferi producono latte, con caratteristiche nutrizionali e di digeribilità diverse. Ma qual è il percorso evolutivo che ha portato alla caratteristica più "mammifera" di tutte? Inoltre, ICub è stato testato per interagire con bambini autistici; quali sono i rimedi tecnologi allo studio per disinnescare il pericolo di alluvioni; all’Irbim di Messina si studia come ripulire il mare dagli idrocarburi; la ricerca delle velocità più estreme per raggiungere lo spazio e per colpire in guerra; il cinguettio degli uccelli e ai suoi molteplici significati.

ABBONATI A 31,90€
Follow us