Apprendimento:
Regola “Delta”




Presentazione di un insieme di coppie di
pattern di input e di output desiderati
Attivazione della rete: il vettore di input
genera un vettore di output
Confronto fra questo vettore ed il
vettore di output desiderato
I pesi vengono modificati secondo la
regola:
wij   (d j  o j )ii
Funzioni di attivazione
Sia
N
net   wi si
(Input netto)
i 0

Funzione a soglia
1 Se net > soglia
A
0 altrimenti

Funzione “logistica” (derivabile)
1
A
1  e  knet
0<A<1
Esempio n. 1
Discriminazione fra mammiferi e non mammiferi


input
Tre domande:

1) Vive sulla terraferma?

2) Depone le uova?

3) È carnivoro?
Determino gli esempi con le risposte corrette:
1
2
3
output
Cane
Mucca
Gambero
Balena
Pappagallo
1
1
0
0
1
0
0
1
0
1
1
0
0
0
0
1
1
0
1
0
Aquila
Orca
1
0
1
0
1
1
0
1
NetManager.exe
3 input
1 output
TrsEditor.exe
5 pattern
NetTrainer.exe
Esempio n. 2
localizzazione di una lettera
Griglia 5x5
3 posizioni della T:
25 input
3 output
Output
input
Alto
1
0
0
medio
0
1
0
basso
0
0
1
NetManager.exe
25 input
3 output
TrsEditor.exe
6 pattern
NetTrainer.exe
Generalizzazione:
codifica locale e distribuita
locale
distribuita
1
2
1 Figura con spigoli
2 Figura chiusa
Discesa del Gradiente:
i minimi locali
Errore
w2
w1
Errore
w1
Minimo assoluto
Rete neurale
a 2 strati:
l’errore arriva a
0 e la procedura si
ferma
Rete neurale a 3 Strati:
nel minimo locale l’errore
w2
Minimo locale non scende più, la
procedura si ferma, ma la
rete non ha appreso
Minimo assoluto
Algoritmi Genetici (GA)




Un nuovo metodo di addestramento per
reti neurali (ma non solo)
Non è necessario conoscere gli output
corretti da associare agli input
La Vita Artificiale: la selezione naturale
simulata nel computer
Un esempio: Criptismo
Scaricabile sul sito: http://gral.ip.rm.cnr.it/software
Simulazioni di vita artificiale
Output motori
(Es. muscoli)
Rete neurale
ambiente
Input sensoriali
(Es. visione)
Il funzionamento dei GA


Gli algoritmi genetici sono fondati sul
concetto di RIPRODUZIONE SELETTIVA
Ripetute interazione fra l’organismo e
l’ambiente




Generazione di una popolazione casuale di
organismi
Misura della competenza degli organismo nel loro
ambiente (compito)
Selezione dei migliori organismi
Meccanismi di riproduzione e mutazione del
genotipo
Meccanismi di riproduzione

Mutazione
 Piccola modifica casuale
di alcuni pesi sinaptici
scelti a caso
(riproduzione asessuata)

Crossover
 Scambio di materiale
genetico fra i genitori
(riproduzione sessuata)
Criptismo in dettaglio

Genoma costituito da:




Pesi sinaptici
Gene che determina il colore
I pesi sinaptici sono numeri reali
Riproduzione asessuata
Considerazioni finali sui GA

Ciò che si ottiene con i GA è una forma
di “adattamento” e non di
“apprendimento”



L’apprendimento è orientato all’acquisizione
di qualcosa
L’adattamento non ha un obiettivo
Gli organismi artificiali non imparano
nulla durante la vita