某四進(jìn)制離散信源,其符號(hào)等概,符號(hào)間相互獨(dú)立,每個(gè)符號(hào)的寬度為0.1ms。
試計(jì)算:
(1)碼元速率和信息速率;
(2)該信源工作2小時(shí)后所獲得的信息量;
(3)若將個(gè)符號(hào)編成二進(jìn)制碼后進(jìn)行傳輸,在工作2小時(shí)后發(fā)現(xiàn)有36個(gè)差錯(cuò)比特(差錯(cuò)比特為均勻分布),求傳輸?shù)恼`比特率和誤符號(hào)(碼)率。
(1)碼元速率和信息速率為:
(2)工作2小時(shí)后所獲得的信息量為:
(3)傳輸?shù)恼`比特率為:
某信息源的符號(hào)集由A、B、C、D和E組成,舍每一符號(hào)獨(dú)立出現(xiàn),其出現(xiàn)概率分別為1/4,1/8,1/8,3/16,5/16。
試求:
(1)該信息源符號(hào)的平均信息量;
(2)要想獲得最大熵該信源應(yīng)滿足什么條件及最大熵為多少。
(1)平均信息量:
(2)獲得最大熵條件為各符號(hào)獨(dú)立等概;
此時(shí)最大熵為: