Raggiungere la capacità di Shannon di un canale
-
05-11-2019 - |
Domanda
Supponiamo di avere quanto segue da Alphabet $ mathcal {x} = {0, 1 } $ a $ mathcal {y} = {0, 1 } $. Il canale semplicemente fa
inizio {align} 0 destrorrow 0 & quad text {con probabilità 1} 1 destrarrow 0 & quad text {con probabilità 1/2} 1 destrarrow 1 & quad text {con probabilità 1/ 2} end {align}
La capacità classica di questo canale è fornita dalle informazioni reciproche tra il registro di input, $ X $ e registro di output $ Y $ Distribuzioni massimizzate sulla probabilità di input, $ p (x) $. Questo è,
$$ c = max_ {p (x)} h (y) - h (y | x) $$
La distribuzione appropriata risulta essere $(0.6, 0.4)$ E la capacità è $0.3219$ bit.
Come si utilizza effettivamente questo risultato per comunicare praticamente (nel limite asintotico) su questo canale a questo ritmo? Significa che dovrei usare le parole di input che obbediscono ad esempio queste statistiche sull'alfabeto di input?
Nessuna soluzione corretta