某信息源的符號集由A、B、C、D和E組成,舍每一符號獨立出現(xiàn),其出現(xiàn)概率分別為1/4,1/8,1/8,3/16,5/16。 試求: (1)該信息源符號的平均信息量; (2)要想獲得最大熵該信源應滿足什么條件及最大熵為多少。
(1)平均信息量: (2)獲得最大熵條件為各符號獨立等概; 此時最大熵為:
每個符號的平均信息量為: 該信息源的平均信息速率為:
某信源集包含32個符號,各符號等概出現(xiàn),且相互統(tǒng)計獨立?,F(xiàn)將該信源發(fā)送的一系列符號通過一帶寬為4kHz的信道進行傳輸,要求信道的信噪比不小于26dB。 試求: (1)信道容量; (2)無差錯傳輸時的最高符號速率。