信息論與編碼章節(jié)練習(xí)(2020.06.02)

問答題
（1）證明對(duì)有限方差σ2，高斯隨機(jī)變量具有所有隨機(jī)變量可能獲得的最大微分熵。（2）證明該熵由公式給出。
答案：（1）由題意可知，高斯隨機(jī)變量獲得的微分熵為：

對(duì)于有限方差σ²...
判斷題
m階馬爾可夫信源和消息長(zhǎng)度為m的有記憶信源，其所含符號(hào)的依賴關(guān)系相同
答案：錯(cuò)誤
判斷題
信源X的概率分布為P（X）={1/2，1/3，1/6}，信源Y的概率分布為P（Y）={1/3，1/2，1/6}，則信源X和Y的熵相等。
答案：正確
判斷題
離散無噪信道的信道容量等于log2n，其中n是信源X的消息個(gè)數(shù)。
答案：錯(cuò)誤
填空題
若連續(xù)信源輸出信號(hào)的平均功率為（），則輸出信號(hào)幅度的概率密度是（）或（）或（）時(shí)，信源具有最大熵，其值為值（）。
答案：
σ²；高斯分布；正態(tài)分布；；
判斷題
對(duì)于BSC信道，信道編碼應(yīng)當(dāng)是一對(duì)一的編碼，因此，消息m的長(zhǎng)度等于碼字c的長(zhǎng)度。
答案：錯(cuò)誤
填空題
平均互信息量I（X；Y）與信源熵和條件熵之間的關(guān)系是（）。
答案：（X;Y)=H(X)-H(X/Y）
問答題
有兩個(gè)二元隨機(jī)變量X和Y，它們的聯(lián)合概率為P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定義另一隨機(jī)變量Z=XY，試計(jì)算：H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）
答案：
問答題
已知加性高斯白噪聲（AWGN，Add itiveWhite Gaussian Noise）信道，信號(hào)的帶寬范圍為300～3400Hz，信號(hào)與噪聲功率比為26dB，（1）計(jì)算該信道的最大信息傳輸速率；（2）若信號(hào)與噪聲功率比降到10dB，且保持信道最大信息傳輸速率不變，則信道帶寬應(yīng)該變?yōu)槎嗌伲?/h4>
答案：
名詞解釋
香農(nóng)信息
答案：
信息是事物運(yùn)動(dòng)狀態(tài)或存在方式的不確定性的描述。

首頁(yè)

題庫(kù)

網(wǎng)課

在線?？?/h3>

桌面端

信息論與編碼章節(jié)練習(xí)(2020.06.02)

（1）證明對(duì)有限方差σ2，高斯隨機(jī)變量具有所有隨機(jī)變量可能獲得的最大微分熵。（2）證明該熵由公式給出。

m階馬爾可夫信源和消息長(zhǎng)度為m的有記憶信源，其所含符號(hào)的依賴關(guān)系相同

信源X的概率分布為P（X）={1/2，1/3，1/6}，信源Y的概率分布為P（Y）={1/3，1/2，1/6}，則信源X和Y的熵相等。

離散無噪信道的信道容量等于log2n，其中n是信源X的消息個(gè)數(shù)。

若連續(xù)信源輸出信號(hào)的平均功率為（），則輸出信號(hào)幅度的概率密度是（）或（）或（）時(shí)，信源具有最大熵，其值為值（）。

對(duì)于BSC信道，信道編碼應(yīng)當(dāng)是一對(duì)一的編碼，因此，消息m的長(zhǎng)度等于碼字c的長(zhǎng)度。

平均互信息量I（X；Y）與信源熵和條件熵之間的關(guān)系是（）。

有兩個(gè)二元隨機(jī)變量X和Y，它們的聯(lián)合概率為P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定義另一隨機(jī)變量Z=XY，試計(jì)算：H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）

香農(nóng)信息

信息論與編碼章節(jié)練習(xí)(2020.06.02)

（1）證明對(duì)有限方差σ2，高斯隨機(jī)變量具有所有隨機(jī)變量可能獲得的最大微分熵。（2）證明該熵由公式給出。

m階馬爾可夫信源和消息長(zhǎng)度為m的有記憶信源，其所含符號(hào)的依賴關(guān)系相同

信源X的概率分布為P（X）={1/2，1/3，1/6}，信源Y的概率分布為P（Y）={1/3，1/2，1/6}，則信源X和Y的熵相等。

離散無噪信道的信道容量等于log2n，其中n是信源X的消息個(gè)數(shù)。

若連續(xù)信源輸出信號(hào)的平均功率為（），則輸出信號(hào)幅度的概率密度是（）或（）或（）時(shí)，信源具有最大熵，其值為值（）。

對(duì)于BSC信道，信道編碼應(yīng)當(dāng)是一對(duì)一的編碼，因此，消息m的長(zhǎng)度等于碼字c的長(zhǎng)度。

平均互信息量I（X；Y）與信源熵和條件熵之間的關(guān)系是（）。

有兩個(gè)二元隨機(jī)變量X和Y，它們的聯(lián)合概率為P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定義另一隨機(jī)變量Z=XY，試計(jì)算：H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）

香農(nóng)信息

（1）證明對(duì)有限方差σ2，高斯隨機(jī)變量具有所有隨機(jī)變量可能獲得的最大微分熵。（2）證明該熵由公式給出。

m階馬爾可夫信源和消息長(zhǎng)度為m的有記憶信源，其所含符號(hào)的依賴關(guān)系相同

信源X的概率分布為P（X）={1/2，1/3，1/6}，信源Y的概率分布為P（Y）={1/3，1/2，1/6}，則信源X和Y的熵相等。

離散無噪信道的信道容量等于log2n，其中n是信源X的消息個(gè)數(shù)。

若連續(xù)信源輸出信號(hào)的平均功率為（），則輸出信號(hào)幅度的概率密度是（）或（）或（）時(shí)，信源具有最大熵，其值為值（）。

對(duì)于BSC信道，信道編碼應(yīng)當(dāng)是一對(duì)一的編碼，因此，消息m的長(zhǎng)度等于碼字c的長(zhǎng)度。

平均互信息量I（X；Y）與信源熵和條件熵之間的關(guān)系是（）。

有兩個(gè)二元隨機(jī)變量X和Y，它們的聯(lián)合概率為P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定義另一隨機(jī)變量Z=XY，試計(jì)算：H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）