求下圖中信道的信道容量及其最佳的輸入概率分布。

有一個二元信道，其信道如右圖所示。設(shè)該信道以1500個二元符號/秒的速度傳輸輸入符號，現(xiàn)有一消息序列共有14000個二元符號，并設(shè)在這消息中問從信息傳輸?shù)慕嵌葋砜紤]，10秒內(nèi)能否將這消息序列無失真地傳送完。

設(shè)X，Y是兩個相互統(tǒng)計獨立的二元隨機變量，其取“0”或“1”的概率為等概率分布。定義另一個二元隨機變量Z，而且Z=XY（一般乘積），試計算：
（1）H（X），H（Y），H（Z）；
（2）H（XY），H（XZ），H（YZ），H（XYZ）；
（3）H（X|Y），H（X|Z），H（Y|Z），H（Z|X），H（Z|Y）；
（4）H（X|YZ），H（Y|XZ），H（Z|XY）；
（5）I（X；Y），I（X；Z），I（Y；Z）；
（6）I（X；Y|Z），I（Y；X|Z），I（Z；X|Y），I（Z；Y|X）；
（7）I（XY；Z），I（X；YZ），I（Y；XZ）。

若有三個離散隨機變量，有如下關(guān)系：X+Y=Z，其中X和Y相互統(tǒng)計獨立，試證明：
（1）H（X）≤H（Z），當且僅當Y是常量時等式成立；
（2）H（Y）≤H（Z），當且僅當X為常量時等式成立；
（3）H（Z）≤H（XY）≤H（X）+H（Y），當且僅當X，Y中任意一個為常量時等式成立；
（4）I（X；Z）=H（Z）−H（Y）；
（5）I（XY；Z）=H（Z）；
（6）I（X；YZ）=H（X）；
（7）I（Y；Z|X）=H（Y）；
（8）I（X；Y|Z）=H（X|Z）=H（Y|Z）。

若X、Y和Z是三個隨機變量，試證明：
（1）I（X；YZ）=I（X；Y）+I（X；Z|Y）=I（X；Z）+I（X；Y|Z）
（2）I（X；Y|Z）=I（Y；X|Z）=H（X|Z）−H（X|YZ）
（3）I（X；Y|Z）≥0當且僅當（X，Z，Y）是馬氏鏈時等式成立。