Gli errori sui parametri
Gli errori sui parametri
• Riprendiamo il caso della retta
X   X1 ,
, XN 
Y  mX  q
Y  Y1 ,
 
2
, YN 
Yk   mX k  q  

2
2
k
• ...e sviluppiamo le cose per benino...
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
385
Gli errori sui parametri
• Ora minimizziamo

Yk   mX k  q  
 2
 2
 Xk 
0 
2
m
k


2
Yk   mX k  q  


 1
2
0  q   2
k

Flavio Waldner - Dipt.di Fisica - UDINE - Italy
386
Gli errori sui parametri
• Sviluppiamo

Yk   mX k  q  
0
 X k
2
k


 Yk   mX k  q  
0
2

k


Yk  mX k  q 

0
 X k
2
k


 Yk  mX k  q   0
2


k

Flavio Waldner - Dipt.di Fisica - UDINE - Italy
387
Gli errori sui parametri
 X k Yk
X k2
Xk
  2  m 2  q  2  0
k
k
k


1
 Yk  m X k  q
0



2
2
2
  k
k
k

X k2
Xk
X k Yk
 m 2  q  2   2
k
k
k


Yk
1
m X k  q
 2


2
2

k
k
k
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
388
Gli errori sui parametri
• Se facciamo queste posizioni...
 11

 12
 X k2
 2
12    k

 22 
Xk
  2
 k
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
Xk 
2 
k 
1 
  2 
k 
389
Gli errori sui parametri
• ...possiamo scrivere il sistema normale
come
m  q  g
11
12
1

m 21  q 22  g 2
• Poniamo
  11 22  12  21  11 22   12 
2
• ...ed avremo le soluzioni per i parametri
della retta
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
390
Gli errori sui parametri
g1 22  g 2 12
m

g 2 11  g112
q

Flavio Waldner - Dipt.di Fisica - UDINE - Italy
391
Gli errori sui parametri
• Si dimostra che  è la matrice dei pesi
• Quindi
1   22
  
  12
1
12 

11 
è la matrice delle covarianze
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
392
Gli errori sui parametri
• Quindi
12 
  22





1
V  

11 
  12


 
 
2
 m
 mq m q 


2
  


q
 mq m q

Flavio Waldner - Dipt.di Fisica - UDINE - Italy
393
Gli errori sui parametri
• Esplicitamente
 X 
1   Xk 
  
  2     2 
    k    k 
2
k
2
k
2
1
 22
m 



2
k

 X k2 
 2 
k 
11

q 



Flavio Waldner - Dipt.di Fisica - UDINE - Italy
394
Gli errori sui parametri
mq
 Xk 
 2 
 Xk 

k 

 2 
k 
12





2
 m q

1  X k2 
1  Xk 
  2   2 
  2    k2 
  k   k 
k


Flavio Waldner - Dipt.di Fisica - UDINE - Italy
395
Gli errori sui parametri
•
E se si tratta di qualcosa di più
complicato?
Due casi
I.
Siamo in un caso lineare nei parametri
incogniti
–
In questo caso ci si arma di pazienza e si rifà
quello che abbiamo visto per la retta
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
396
Gli errori sui parametri
II. Siamo in un caso generale
–
•
L’assoluta maggioranza dei casi
Si può fare il calcolo degli errori usando
la forma analitica del 2


2



2

1
 Vmin
   min  
min
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
397
Gli errori sui parametri
• Tenendo presente che se siamo al minimo


2


2



2

1
 min
V
0
 min
   min  
min
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
398
Gli errori sui parametri


2
1
min
V



2
Vmin
   min 
     min 

   min     min 
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
T
 Vmin
399
Gli errori sui parametri
   min     min 


2 T


2
Vmin



T
min
V



 Vmin
 Vmin

2 T
2
T
T
min
V
1

Flavio Waldner - Dipt.di Fisica - UDINE - Italy
400
Gli errori sui parametri


2 T
2




V 
1


1
T
min
V

2 T
2
min



 V
T
min

1

2 T



Flavio Waldner - Dipt.di Fisica - UDINE - Italy



2

401
Gli errori sui parametri
• ...ed infine
V 
min
  2
 
 




1
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
 

 




2 T
1
402
Gli errori sui parametri


2


2
Vmin

1
min
V
   min 

  2

 
1

      min 


Vmin      min 
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
  2

 




  2

 




1
1
403
Gli errori sui parametri
• Infine
  min  Vmin


2
min
– Si tratta di un processo laborioso...
• Altrimenti si può usare la forza bruta del
calcolo
• Ricordiamoci che il 2 non è altro che una
somma di scarti ridotti
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
404
Gli errori sui parametri
• ...ed allora si trovano i valori dei parametri
per i quali
  min  k k     min   s
2
2
2
• Risolvendo l’equazione trascendente ad un
parametro per volta
2
• s dà le unità di varianza
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
405
Gli errori sui parametri
• Quindi un sistema trascendente


  2 min 1 min,1   1   2  min   1


 2
2
  min  N min, N   N    min   1


– ...e tanti auguri
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
406
Gli errori sui parametri
• Fate attenzione che le equazioni
trascendenti sono brutte bestie
– Se possibile chiaritevi le idee con dei grafici
– Metodo delle secanti e/o bisezione sono i
migliori
– Due metodi indipendenti danno maggior
sicurezza
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
407
Caso più complesso
Funzioni di variate
• Supponiamo di avere una funzione lineare
di una variata multidimensionale
Y =A X
Y=A X
• Come facciamo a calcolarci gli errori su Y ?
– Attenzione: ora siamo in molte dimensioni
– Dobbiamo calcolarci la matrice delle
covarianze!
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
409
Funzioni di variate
• Avremo...
VY 

Y -
A X -
Y
AX
 A X - X
A
 Y -
X - X

 A X -
 X 
Y
T
X

X - X

Flavio Waldner - Dipt.di Fisica - UDINE - Italy
T
T

AX
A

T
T
AT
410
Funzioni di variate
• Dunque
VY  A VX A
T
• Che è la generalizzazione della “vecchia”
formula sul calcolo degli errori
Y  m X
 m 
2
Y
2
2
X
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
411
Funzioni di variate
• ...e se abbiamo una funzione qualunque?
 y1  y1  x1 , x2 , , xN 

 y2  y2  x1 , x2 , , xN 
Y  Y X  

 yN  yN  x1 , x2 , , xN 

• ...con lo jacobiano
Y
J
X
 yi
 J i j   j yi 
  YT
 xj
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
412
Funzioni di variate
• ...svilupperemo in serie...
– Intorno ai valori medi
• Valori attesi
– Al primo ordine
• Errori piccoli...
– E ricorderemo l’additività delle varianze
• Ipotesi normale...
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
413
Funzioni di variate
• Risultato...
Y
Y X  Y  X  
X X

X
• Ed al primo ordine...
 Y 
 Y 
VY  
 VX 

 X 
 X 
Flavio Waldner - Dipt.di Fisica - UDINE - Italy

T
414
Funzioni di variate
• ...che nel caso di variabili indipendenti
diviene
2
f  2
2
 Y  
 k
  xk 
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
415
Simulazioni statistiche
Simulazioni statistiche
• Chiamate anche MonteCarli
• Il termine (spregiativo) risale ad anni ’40
• In fenomeni molto complessi si ricorse a
simulazioni casuali
• Oggi si usano di routine in fenomeni
complessi
• Idrodinamica
• Plasmi
• Scontri fra Galassie
• Sviluppi di popolazioni di organismi
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
417
Simulazioni statistiche
• Inizio con gli sciami elettromagnetici
– Un gamma materializza in una coppia
elettrone-positrone
– Le cariche passano vicino a dei nuclei e fanno
BS
– Vengono emessi dei gamma...
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
418
Simulazioni statistiche
• Si può studiare
– con equazioni differenziali...
– Ma ne vale la pena?
– E come si fa a tener conto delle fluttuazioni?
– ...oppure simulando statisticamente il
processo
• Simulazioni: oggi molto usate per una
varietà di problemi scientifici e tecnici
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
419
Simulazioni statistiche
• Alternative
– Forza bruta del calcolo
• Simulazioni
• Calcolo agli elementi finiti
– Uso sofisticato del calcolo differenziale
• Molto spesso troppo astratto
• Troppe ipotesi difficilmente controllabili
• Sistemi di PDE ed IE di difficile soluzione e
controllo
• Non linearità delle PDE
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
420
Simulazioni statistiche
• Vari modelli:
– PM: Particle-Mesh. Una particella si muove in
un campo predefinito ed immutabile
– Esempio: un satellite nel campo gravitazionale terrestre
– P3M: Particle-Particle-Particle-Mesh. Idem
come sopra, però tenendo conto anche delle
interazioni fra le particelle
– Esempio: elettroni entro un semiconduttori sottoposti ad
un campo esterno (il FET)
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
421
Simulazioni statistiche
• Vediamo alcuni vantaggi
– Facilità di modellizzazione
– Parcellizzazione di un fenomeno complesso
– Possibilità di controllo del calcolo nelle sue varie fasi
– Facilità di modifiche al modello
– Facilità di riprodurre sistemi non lineari
– Facilità di aumentare l’accuratezza
• Svantaggi: tempi di calcolo...
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
422
Simulazioni statistiche
• Il confronto fra dati e previsioni ora ha
due facce
– Errori sui dati
– Errori sulle previsioni
– Tipicamente quelli statistici
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
423
Simulazioni statistiche
• Su N eventi le fluttuazioni statistiche sono
attese dell’ordine di N
• Le fluttuazioni percentuali sono dunque
• Domanda:
N
1

N
N
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
424
Simulazioni statistiche
Quanti eventi statistici
dobbiamo produrre affinché
gli errori sperimentali non
ne risentano
apprezzabilmente?
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
425
Simulazioni statistiche
• La risposta sta nell’additività delle varianze
• Poniamo che l’errore relativo sia


x
Regola pratica
Per un aumento del 10% dell’errore relativo
occorrono campioni dell’ordine di
N min 
5
2
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
426
Simulazioni statistiche
• Quindi se si ha una statistica di 1000
eventi l’errore sarà incrementato del 10%
con una simulazione di 5000 eventi
• ...e se si vuole passare al 5% occorrono
20000 eventi
– Ricordate
N ?
• ...e se si vuole passare all’1% occorrono
500000 eventi...
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
427
Simulazioni statistiche
• In genere si accettano statistiche
N min 
5  10

2
» Nel dubbio è sempre meglio abbondare, se
possibile...
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
428
Dati e segnali
Dati e segnali
• Differenza importante:
• Sui dati sperimentali non si ha alcuna
informazione
– Esempio: la curva di luce di una supernova
• Sui segnali sperimentali si sa (almeno
all’incirca) qualcosa
– Esempio: il segnale di un fotomoltiplicatore visto
all’oscillografo
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
430
Dati e segnali
• Differenza di trattamento fondamentale
• Nei dati tutto può essere importante
– Procedimento di analisi standard
• Scelta di un modello teorico
• Definizione della legge di distribuzione delle
incertezze
• Fit con la ML
• Analisi degli errori
• Analisi delle correlazioni
• Analisi del livello di confidenza
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
431
Dati e segnali
• Nei segnali si da già cosa è importante
• Attenzione: mica sempre...
• Quindi si può cercare di eliminare ciò che
non è importante
IL RUMORE
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
432
Dati e segnali
• ATTENZIONE: queste sono sempre
tecniche MOLTO pericolose se non si sa a
priori la forma del segnale
– Si rischia di perdere informazioni importanti
– Fluttuazioni statistiche (da togliere) si possono
sommare a segnali deboli (da tenere, forse)
• Insomma: molta cautela
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
433
Dati e segnali
• Esempi di segnali unidimensionali
– Principalmente: serie temporali
• EEG, ECG, sismogrammi
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
434
Le serie temporali
Le serie temporali
I dati di partenza
• Vengono presi dei dati ad intervalli di
tempo (di solito uguali)
Il problema
• Estrarre le informazioni significative
La soluzione più comune
• Sviluppare in serie di Fourier
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
436
Le serie temporali
• Problema di solito complesso
• Divenuto più semplice dopo la scoperta
della Fast Fourier Transform (ca.: 1970)
• Si riduce ad una stima parametrica
F  t    Ak cos  k  t  k 
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
437
Le serie temporali
• Ogni termine porta a due parametri in più
• Più uno per tutti: la frequenza fondamentale
• Sviluppare in serie di Fourier comporta la
raccolta di molti dati
• L’inizio e la fine dei dati comporta la
presenza di frequenze spurie
• Artefatti
• Si ottiene uno spettro di frequenze
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
438
Le serie temporali
• Esempi:
– Analisi di vibrazioni statiche
– Suoni
– Elettroencefalogrammi
– ...
• Spesso importante non la F  t  ma la F
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
2
t 
439
Le serie temporali
• Caso particolare l’EEG

2

– Invece della V t si usa la V t
– Proporzionale alla potenza
– Facendo la FT si ottiene la potenza emanata
alle varie frequenze
Uno spettro di potenza
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
440
3
2
1
5
10
15
20
-1
-2
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
441
4
3
2
1
5
10
15
20
-1
-2
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
442
Le serie temporali
Un problema
• Qual’è la frequenza massima che si può
rivelare con un certo campione?
Criterio di Nyquist
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
443
Segnale e fondo
Segnale e fondo
Il problema
• In funzione di una (o più) variabile(-i) si
ha un segnale che è somma
– Di un segnale casuale, o comunque non
interessante
• Fondo, background, noise
– Di un segnale importante e significativo
• Come di fa a separarli? Come si fa a
calcolare gli errori?
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
445
Segnale e fondo
Una soluzione
• Conoscere in qualche modo il fondo
• Teorie, ipotesi
• Misure prima e dopo il segnale
• Simulare il fondo statisticamente
• Fare l’ipotesi che il fondo sia lo stesso
anche se il segnale è presente
• Indipendenza oltre che struttura
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
446
Segnale e fondo
• Ottenere il segnale a fondo sottratto
• Calcolo della percentuale di fondo
• Normalizzazione
• Tenere conto dell’additività delle varianze
• Nella sottrazione le cose peggiorano
Flavio Waldner - Dipt.di Fisica - UDINE - Italy
447