假定隨機(jī)變量欲裂的長度是有限的,如果信源輸出地信息序列中,符號之間的無相互依賴關(guān)系,則稱這類信源為離散平穩(wěn)無記憶信源。
一個隨機(jī)事件發(fā)生某一結(jié)果后所帶來的信息量成為自信息量,定義為其發(fā)生概率對數(shù)的負(fù)值。