假定隨機變量欲裂的長度是有限的,如果信源輸出地信息序列中,符號之間的無相互依賴關(guān)系,則稱這類信源為離散平穩(wěn)無記憶信源。
一個隨機事件發(fā)生某一結(jié)果后所帶來的信息量成為自信息量,定義為其發(fā)生概率對數(shù)的負值。
信息的數(shù)學表達層,它雖不是一個物理量,但是可以定量地加以描述,它是具體物理信號的進一步數(shù)學抽象