PRINCIPI DI INGEGNERIA NEURALE E INTELLIGENZA ARTIFICIALE

FONDAMENTI DI ELABORAZIONE DIGITALE DEL SEGNALI 

Introduzione ai segnali e sistemi a tempo discreto. Rappresentazione del segnale nel dominio del tempo, trasformata di Fourier. Teorema del campionamento. Sistemi lineare tempo-invariante. Trasformata discreta di Fourier. Fast Fourier Transform. Trasformata Z. Fondamenti di progettazione di filtri digitali. 

FONDAMENTI DELL’INGEGNERIA NEURALE 

Fondamenti di ingegneria neurale. Panoramica sulle applicazioni dell’ingegneria neurale. Introduzione ai campi elettrici del cervello e all'Elettroencefalografia (EEG). Concetti fondamentali sulla generazione dei ritmi EEG. 

IL NEURONE ARTIFICIALE E I TIPI DI APPRENDIMENTO  

Proprietà generali dei sistemi di elaborazione neurale. Modello di neurone biologico. Neurone artificiale di McCulloch-Pitts. Discesa del gradiente. Non linearità: sigmoidale, tangente iperbolica, funzioni di attivazione di ReLu. Processo di apprendimento. Correzione dell'errore. Regola Widrow-Hopf. Hebbian Learning. Apprendimento competitivo. Apprendimento supervisionato e non supervisionato. Apprendimento con rinforzo. Natura statistica del processo di apprendimento. Architetture di rete: modelli feedforward. Modelli competitivi e auto-organizzativi. Rappresentazione della conoscenza. Visualizzazione dei processi nelle reti neurali. Perceptrons. Multi-layer Perceptrons. Radial Basis Functions. Reti ricorrenti. Mappe auto-organizzanti. Modelli teorici dell'informazione. Elaborazione temporale con reti neurali. 

DEEP LEARNING 

Modelli Deep e Shallow. Deep Feed Forward Neural Networks. Convolutional Neural Networks. Visualizzazione e comprensione delle reti convoluzionali, visualizzazione di modelli di classificazione delle immagini e saliency maps, comprensione delle reti neurali attraverso la deep visualization.  

Metodi di Explainable Machine Learning. Spiegabilità del comportamento della rete tramite Occlusion sensivity analysis, gradient-weighted class activation mapping (Grad-CAM), Local interpretable model-agnostic explanations (LIME). AutoEncoders (AE), Stacked AutoEncoders. Cenni sui Variational AutoEncoders. Reti antagoniste generative, Generative Adversarial Networks.  Cenni sul Meta-Learning, Few-Shot Learning. 

ESPERIENZE DI LABORATORIO  

Utilizzo del Deep Learning toolbox di Matlab e/o Python. Sviluppo dei modelli trattati durante il corso. 

SEMINARI E VISITE TECNICHE 

Durante il corso si svolgeranno dei seminari tematici relativi ad applicazioni di frontiera dell’AI e visite tecniche. 

Ultimo aggiornamento: 25-09-2023

José C. Principe, Neural and Adaptive Systems: Fundamentals Through Simulations, Wiley 

Ian Goodfellow, Yoshua Bengio and Aaron Courville, “Deep Learning” (www.deeplearningbook.org), An MIT Press book 

Zhang, A., Lipton, Z. C., Li, M., & Smola, A. J. (2021). Dive into deep learning. arXiv preprint arXiv:2106.11342 (https://d2l.ai/index.html) 

Paul L. Nunez and Ramesh Srinivasan, Electric fields of the brain - the Neurophysics of EEG (second edition), Oxford University Press 

Sani-Chambers, EEG Signal Processing, IEEE- Wiley 

Simon Haykin, Neural Networks, IEEE Press 

Ultimo aggiornamento: 25-09-2023

CONOSCENZA E COMPRENSIONE: 

Il corso si propone di completare la preparazione dello studente magistrale arricchendolo di conoscenze e competenze nell’ambito dell’intelligenza artificiale (con particolare attenzione alle tecniche di deep learning), focalizzando l’attenzione sugli aspetti maggiormente collegati alle neuroscienze. Vengono proposte applicazioni all'elaborazione di segnali elettroencefalografici (EEG) sia per discriminazione di stati cerebrali sia per Brain Computer Interface (BCI). Lo studente, in autonomia, svolgerà un proprio elaborato suggerito dal docente. 

CAPACITA' DI APPLICARE CONOSCENZA E COMPRENSIONE: 

Il corso è orientato a far acquisire allo studente competenze sulla progettazione e sviluppo di algoritmi, basati su metodi di Deep Learning, per applicazioni nell’ambito delle neuroscience. Tale obiettivo viene perseguito anche attraverso esercitazioni laboratoriali durante le quali lo studente avrà modo di progettare i propri esperimenti, acquisire i segnali elettroencefalografici ed elaborarli. 

AUTONOMIA DI GIUDIZIO:  

A fine corso, e in particolare al superamento dell’esame, lo studente sarà in grado, in completa autonomia, di: definire paradigmi ed esperimenti di acquisizione di bio-segnali secondo quelli che sono gli obiettivi del proprio studio; progettare algoritmi per l’elaborazione dei segnali acquisiti al fine di raggiungere l’obiettivo dello studio. Lo studente potrà contare sul bagaglio di metodi trattati durante il corso nonché sulla propria capacità di approfondire autonomamente ulteriori metodi presenti in letteratura, grazie ad un’acquisita padronanza dei concetti fondamentali del deep learning. 

ABILITA' COMUNICATIVE:  

Attraverso una continua interazione docente-studente, il corso orienterà all’acquisizione del linguaggio proprio dell’intelligenza artificiale e della computational neuroscience, permettendo inoltre allo studente di affinare la capacità di esprimersi attraverso un linguaggio tecnico appropriato.  

CAPACITA' DI APPRENDIMENTO:  

Al superamento dell’esame, lo studente avrà acquisito la capacità di progettare algoritmi basati su reti neurali artificiali, sia di tipo shallow sia di tipo deep. Sarà in grado di definire paradigmi ed esperimenti per l’acquisizione di segnali elettroencefalografici (EEG) secondo quelli che sono gli obiettivi dello studio; acquisire tali segnali; elaborarli mediante algoritmi di Deep Learning sviluppati ad-hoc; integrare tali algoritmi con piattaforme per l’interfacciamento in tempo reale con il sistema di acquisizione EEG. Viceversa, l’applicazione pratica dei concetti teorici permetterà di comprenderli a fondo e rielaborarli; lo studente svilupperà così in generale un approccio teorico-pratico alle materie ingegneristiche. 

Ultimo aggiornamento: 25-09-2023

Conoscenze di base dell'analisi matematica, risoluzione di sistemi lineari di equazioni, calcolo di derivate, conoscenza delle matrici e delle operazioni matriciali. Concetti fondamentali di statistica e calcolo delle probabilità.

Ultimo aggiornamento: 25-09-2023

Lo svolgimento del corso prevede: lezioni teoriche frontali; esercitazioni pratiche dedicate all’implementazione di algoritmi; esercitazioni laboratoriali per l’acquisizione e relativa elaborazione di bio-segnali; seminari specialistici; visite tecniche. Le lezioni sono caratterizzate da una continua interazione docente-studente volta a promuovere un apprendimento attivo. 

Ultimo aggiornamento: 25-09-2023

L’esame consta nella discussione di un elaborato progettuale, svolto autonomamente oppure in gruppo, e nella prova orale. 

La discussione dell’elaborato è volta a valutare l’autonomia e le capacità critiche sviluppate dallo studente nonché il rigore metodologico nella progettazione di algoritmi basati su metodi di deep learning. 

La prova orale è volta a verificare il livello di padronanza delle conoscenze degli argomenti proposti durante il corso nonché la capacità di esposizione dei contenuti teorici della disciplina. 

Il voto finale sarà attribuito considerando la valutazione dell’elaborato e l’esito della discussione orale, secondo il seguente criterio di valutazione: 

30 - 30 e lode: conoscenza completa, approfondita e critica degli argomenti, ottima proprietà di linguaggio, completa ed originale capacità interpretativa, piena capacità di applicare autonomamente le conoscenze acquisite; 

27 - 29: conoscenza completa e approfondita degli argomenti, piena proprietà di linguaggio, completa ed efficace capacità interpretativa, in grado di applicare autonomamente le conoscenze per risolvere i problemi proposti; 

24 - 26: conoscenza degli argomenti con un buon grado di apprendimento, buona proprietà di linguaggio, corretta e sicura capacità interpretativa, capacità di applicare in modo corretto la maggior parte delle conoscenze per risolvere i problemi proposti; 

21 - 23: conoscenza adeguata degli argomenti, ma mancata padronanza degli stessi, soddisfacente proprietà di linguaggio, corretta capacità interpretativa, limitata capacità di applicare autonomamente le conoscenze per risolvere i problemi proposti; 

18 - 20: conoscenza di base degli argomenti principali, conoscenza di base del linguaggio tecnico, capacità interpretativa sufficiente, capacità di applicare le conoscenze basilari acquisite; 

Insufficiente: lo studente non possiede una conoscenza accettabile degli argomenti trattati durante il corso. 

Ultimo aggiornamento: 25-09-2023

FONDAMENTI DI ELABORAZIONE DIGITALE DEL SEGNALI

Introduzione ai segnali e sistemi a tempo discreto. Rappresentazione del segnale nel dominio del tempo, trasformata di Fourier. Teorema del campionamento. Sistemi lineare tempo-invariante. Trasformata discreta di Fourier. Fast Fourier Transform. Trasformata Z. Fondamenti di progettazione di filtri digitali.

FONDAMENTI DELL’INGEGNERIA NEURALE

Fondamenti di ingegneria neurale. Panoramica sulle applicazioni dell’ingegneria neurale. Introduzione ai campi elettrici del cervello e all'Elettroencefalografia (EEG). Concetti fondamentali sulla generazione dei ritmi EEG.

IL NEURONE ARTIFICIALE E I TIPI DI APPRENDIMENTO

Proprietà generali dei sistemi di elaborazione neurale. Modello di neurone biologico. Neurone artificiale di McCulloch-Pitts. Discesa del gradiente. Non linearità: sigmoidale, tangente iperbolica, funzioni di attivazione di ReLu. Processo di apprendimento. Correzione dell'errore. Regola Widrow-Hopf. Hebbian Learning. Apprendimento competitivo. Apprendimento supervisionato e non supervisionato. Apprendimento con rinforzo. Natura statistica del processo di apprendimento. Architetture di rete: modelli feedforward. Modelli competitivi e auto-organizzativi. Rappresentazione della conoscenza. Visualizzazione dei processi nelle reti neurali. Perceptrons. Multi-layer Perceptrons. Radial Basis Functions. Reti ricorrenti. Mappe auto-organizzanti. Modelli teorici dell'informazione. Elaborazione temporale con reti neurali.

DEEP LEARNING

Modelli Deep e Shallow. Deep Feed Forward Neural Networks. Convolutional Neural Networks. Visualizzazione e comprensione delle reti convoluzionali, visualizzazione di modelli di classificazione delle immagini e saliency maps, comprensione delle reti neurali attraverso la deep visualization.

Metodi di Explainable Machine Learning. Spiegabilità del comportamento della rete tramite Occlusion sensivity analysis, gradient-weighted class activation mapping (Grad-CAM), Local interpretable model-agnostic explanations (LIME).

AutoEncoders (AE), Stacked AutoEncoders. Cenni sui Variational AutoEncoders.

Reti antagoniste generative, Generative Adversarial Networks.

Cenni sul Meta-Learning, Few-Shot Learning.

ESPERIENZE DI LABORATORIO

Utilizzo del Deep Learning toolbox di Matlab e/o Python. Sviluppo dei modelli trattati durante il corso.

SEMINARI E VISITE TECNICHE

Durante il corso si svolgeranno dei seminari tematici relativi ad applicazioni di frontiera dell’AI e visite tecniche.

Ultimo aggiornamento: 25-09-2023

José C. Principe, Neural and Adaptive Systems: Fundamentals Through Simulations, Wiley

Ian Goodfellow, Yoshua Bengio and Aaron Courville, “Deep Learning” (www.deeplearningbook.org), An MIT Press book

Zhang, A., Lipton, Z. C., Li, M., & Smola, A. J. (2021). Dive into deep learning. arXiv preprint arXiv:2106.11342 (https://d2l.ai/index.html)

Paul L. Nunez and Ramesh Srinivasan, Electric fields of the brain - the Neurophysics of EEG (second edition), Oxford University Press

Sani-Chambers, EEG Signal Processing, IEEE- Wiley

Simon Haykin, Neural Networks, IEEE Press

Ultimo aggiornamento: 25-09-2023

CONOSCENZA E COMPRENSIONE:

Il corso si propone di completare la preparazione dello studente arricchendola di conoscenze e competenze nell’ambito dell’intelligenza artificiale (con particolare attenzione alle tecniche di deep learning), focalizzando l’attenzione sugli aspetti maggiormente collegati alle neuroscienze. Vengono proposte applicazioni all'elaborazione di segnali elettroencefalografici (EEG) sia per discriminazione di stati cerebrali sia per Brain Computer Interface (BCI). Lo studente, in autonomia, svolgerà un proprio elaborato suggerito dal docente.

CAPACITA' DI APPLICARE CONOSCENZA E COMPRENSIONE:

Il corso è orientato a far acquisire allo studente competenze sulla progettazione e sviluppo di algoritmi, basati su metodi di Deep Learning, per applicazioni nell’ambito delle neuroscience. Tale obiettivo viene perseguito anche attraverso esercitazioni laboratoriali durante le quali lo studente avrà modo di progettare i propri esperimenti, acquisire i segnali elettroencefalografici ed elaborarli.

AUTONOMIA DI GIUDIZIO:

A fine corso, e in particolare al superamento dell’esame, lo studente sarà in grado, in completa autonomia, di: definire paradigmi ed esperimenti di acquisizione di bio-segnali secondo quelli che sono gli obiettivi del proprio studio; progettare algoritmi per l’elaborazione dei segnali acquisiti al fine di raggiungere l’obiettivo dello studio. Lo studente potrà contare sul bagaglio di metodi trattati durante il corso nonché sulla propria capacità di approfondire autonomamente ulteriori metodi presenti in letteratura, grazie ad un’acquisita padronanza dei concetti fondamentali del deep learning.

ABILITA' COMUNICATIVE:

Attraverso una continua interazione docente-studente, il corso orienterà all’acquisizione del linguaggio proprio dell’intelligenza artificiale e della computational neuroscience, permettendo inoltre allo studente di affinare la capacità di esprimersi attraverso un linguaggio tecnico appropriato.

CAPACITA' DI APPRENDIMENTO:

Al superamento dell’esame, lo studente avrà acquisito la capacità di progettare algoritmi basati su reti neurali artificiali, sia di tipo shallow sia di tipo deep. Sarà in grado di definire paradigmi ed esperimenti per l’acquisizione di segnali elettroencefalografici (EEG) secondo quelli che sono gli obiettivi dello studio; acquisire tali segnali; elaborarli mediante algoritmi di Deep Learning sviluppati ad-hoc; integrare tali algoritmi con piattaforme per l’interfacciamento in tempo reale con il sistema di acquisizione EEG. Viceversa, l’applicazione pratica dei concetti teorici permetterà di comprenderli a fondo e rielaborarli; lo studente svilupperà così in generale un approccio teorico-pratico alle materie ingegneristiche.

Ultimo aggiornamento: 25-09-2023

Conoscenze di base dell'analisi matematica, risoluzione di sistemi lineari di equazioni, calcolo di derivate, conoscenza delle matrici e delle operazioni matriciali. Concetti fondamentali di statistica e calcolo delle probabilità. 

Ultimo aggiornamento: 25-09-2023

Lo svolgimento del corso prevede: lezioni teoriche frontali; esercitazioni pratiche dedicate all’implementazione di algoritmi; esercitazioni laboratoriali per l’acquisizione e relativa elaborazione di bio-segnali; seminari specialistici; visite tecniche. Le lezioni sono caratterizzate da una continua interazione docente-studente volta a promuovere un apprendimento attivo. 

Ultimo aggiornamento: 25-09-2023

L’esame consta nella discussione di un elaborato progettuale, svolto autonomamente oppure in gruppo, e nella prova orale.

La discussione dell’elaborato è volta a valutare l’autonomia e le capacità critiche sviluppate dallo studente nonché il rigore metodologico nella progettazione di modelli e algoritmi.

La prova orale è volta a verificare il livello di padronanza delle conoscenze degli argomenti proposti durante il corso nonché la capacità di esposizione dei contenuti teorici della disciplina.

Il voto finale sarà attribuito considerando la valutazione dell’elaborato e l’esito della discussione orale, secondo il seguente criterio di valutazione:

30 - 30 e lode: conoscenza completa, approfondita e critica degli argomenti, ottima proprietà di linguaggio, completa ed originale capacità interpretativa, piena capacità di applicare autonomamente le conoscenze acquisite;

27 - 29: conoscenza completa e approfondita degli argomenti, piena proprietà di linguaggio, completa ed efficace capacità interpretativa, in grado di applicare autonomamente le conoscenze per risolvere i problemi proposti;

24 - 26: conoscenza degli argomenti con un buon grado di apprendimento, buona proprietà di linguaggio, corretta e sicura capacità interpretativa, capacità di applicare in modo corretto la maggior parte delle conoscenze per risolvere i problemi proposti;

21 - 23: conoscenza adeguata degli argomenti, ma mancata padronanza degli stessi, soddisfacente proprietà di linguaggio, corretta capacità interpretativa, limitata capacità di applicare autonomamente le conoscenze per risolvere i problemi proposti;

18 - 20: conoscenza di base degli argomenti principali, conoscenza di base del linguaggio tecnico, capacità interpretativa sufficiente, capacità di applicare le conoscenze basilari acquisite;

Insufficiente: lo studente non possiede una conoscenza accettabile degli argomenti trattati durante il corso.

Ultimo aggiornamento: 25-09-2023