有一個二元對稱信道，其信道矩陣為。設該信源以1500bit/s的速度傳輸輸入符號?，F(xiàn)有一消息序列共有14000個二元符號，并設p（0）=p（1）=1/2，問從信息傳輸?shù)慕嵌葋砜紤]，10秒鐘內(nèi)能否將這消息序列無失真地傳遞完？

設二元對稱信道的傳遞矩陣為
（1）若；
（2）求該信道的信道容量及其達到信道容量時的輸入概率分布。

設信源通過一干擾信道，接收符號為Y={b₁，b₂}，信道傳遞矩陣為，求
（1）信源X中事件a₁和a₂分別含有的自信息量。
（2）收到消息b_j（j=1，2）后，獲得的關于a_i（i=1，2）的信息量。
（3）信源X和信宿Y的信息熵。
（4）信道疑義度H（X/Y）和噪聲熵H（Y/X）。
（5）接收到信息Y后獲得的平均互信息量。

黑白氣象傳真圖的消息只有黑色和白色兩種，即信源X={黑，白}。設黑色出現(xiàn)的概率為p（黑）=0.3，白色的出現(xiàn)概率p（白）=0.7。
（1）假設圖上黑白消息出現(xiàn)前后沒有關聯(lián)，求熵H（X）；
（2）假設消息前后有關聯(lián)，其依賴關系為p（白/白）=0.9，p（黑/白）=0.1，p（白/黑）=0.2，p（黑/黑）=0.8，求此一階馬爾可夫信源的熵H₂（X）；
（3）分別求上述兩種信源的剩余度，比較H（X）和H₂（X）的大小，并說明其物理意義。