L’equivocazione
By Vaccaro Maria A.
Che incidenza ha il disturbo sull’informazione?
Si avrà in tal caso che l’incertezza media nel
messaggio trasmesso aumenta a causa del
disturbo.
Possiamo dire che anche l’incertezza sul
messaggio ricevuto ,noto il messaggio inviato,
aumenterà.
Tale incertezza è detta equivocazione che
dovrà essere tolta dal segnale ricevuto
Avremo allora…
ENTROPIA DELLA SORGENTE
ENTROPIA DEL RICEVITORE
NON SONO UGUALI
sorgente
Segnale
trasmesso
Segnale
ricevuto
canale
disturbo
MA SONO DIPENDENTI
RICEVITORE
ALLORA DALL’UGUAGLIANZA:
H(X) +H(y/x)=H(y) + H(x/y)
ricavo che
H(x) - H(x/y)
rappresenterà l’informazione effettivamente trasmessa tolta
l’equivocazione o incertezza del messaggio trasmesso noto
il segnale ricevuto
Ma come si calcola H(x/y) ?
Esempio:Una sorgente di due soli messaggi aventi probabilità
P0=P1=1/2
trasmette alla velocità di 1000 simboli/secondo (in questo caso
possiamo dire che la nostra sorgente produce informazione al ritmo di
1000 bit/secondo )  H(X)
Durante la trasmissione il disturbo introduce degli errori per cui 1
bit ogni 100 verrà ricevuto in modo sbagliato
Per calcolare la velocità effettiva di trasmissione dovremo calcola
rel’equivocazione e sottrarla all’entropia della sorgente secondo la
formula:
H(x)- H(x/y)
Dove H(x/y)=0,99log 2 1/0,99 + 0,01log 2 1/0,01=0,081 bit/secondo
H(x/y)=0,99log 2 1/0,99 + 0,01log 2 1/0,01=0,081 bit/simbolo
0,99
0,01
0,01
0,99
Poiché la trasmissione è di 1000 simboli al secondo
avremo 81 bit/sec
Allore possiamo dire che
Il sistema sta trasmettendo alla velocità di
1000-81=919 bit/sec
TEOREMA DELLA CODIFICA
H(x/y)
H(x/y)= H(x)-C
C
.
Regione accessibile
B
.
A
.
C
H(x)
H(x)