黑白傳真機的消息元只有黑色和白色兩種,即X={黑,白},一般氣象圖上,黑色的出現概率p(黑)=0.3,白色出現的概率p(白)=0.7。 (1)假設黑白消息視為前后無關,求信源熵H(X),并畫出該信源的香農線圖 (2)實際上各個元素之間是有關聯的,其轉移概率為:P(白|白)=0.9143,P(黑|白)=0.0857,P(白|黑)=0.2,P(黑|黑)=0.8,求這個一階馬爾可夫信源的信源熵
有兩個二元隨機變量X和Y,它們的聯合概率為: 并定義另一隨機變量Z = XY(一般乘積),試計算: (1)H(X),H(Y),H(Z), H(XZ), H(YZ)和H(XYZ); (2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H(X/YZ),H(Y/XZ)和H(Z/XY); (3)I(X;Y),I(X;Z),I(Y;Z), I(X;Y/Z), I(Y;Z/X)和I(X;Z/Y)。