H (А) = logla = log16 = 4 [біт / символ]
Hmax (A) = log22 = 4,4594 [біт / символ]
2. Канальні матриці (КМІ, КМП, КМО) і їх взаємозв'язок
Канальна матриця визначає дію перешкод на дискретній каналі.
Канальні матриці бувають трьох видів: канальна матриця джерела, канальна матриця приймача і канальна матриця об'єднання.
Канальна матриця джерела (КМІ)
Канальна матриця джерела складається з умовних ймовірностей сигналів щодо переданих сигналів, які відображають дію перешкод на канал.
Ця матриця відображає статистичні характеристики дії перешкод. Канальна матриця джерела є матрицею прямих переходів переданих сигналів в прийняті сигнали.
Кожен рядок КМІ є розподіл умовних ймовірностей прийнятих сигналів щодо переданих сигналів. Всі ці умовні ймовірності p (bj / ai) і утворюють КМІ.
Канальна матриця приймача (КМП)
Дискретний канал повністю заданий, якщо відомі безумовні ймовірності прийому сигналів і задана канальна матриця приймача.
Умовні ймовірності р (ai / bj) прийому сигналів щодо переданих сигналів складають канальну матрицю приймача (КМП) і відображають дію перешкод на каналі.
Канальна матриця об'єднання (КМО)
Дискретний канал повністю заданий канальної матрицею об'єднання (КМО).
КМО складається з спільних ймовірностей появи сигналів і - р (ai, bj) і відображає дію перешкод на каналі зв'язку.
Елементами матриці є спільні ймовірності:
Взаємозв'язок канальних матриць
p (ai) = p (ai, bj) (i = 1,2 ... n)