己知一个信源所包含的6个符号的概率分别为0.25,0.2,0.2,0.15,0.1,0.1,试用霍夫曼编码方法对这6个符号进行信
源编码,并求出码字的平均长度,计算出信息传输率。
源编码,并求出码字的平均长度,计算出信息传输率。
(1)证明如果离散信源的失真矩阵足行准对称失真矩阵,且在划分的子矩阵中信源输入符号的概半相等,那么通过与失真地阵具有同样对称性且满足失真约束的试验信道可以达到R(D)。
(2)一个包含3符号的信源X。符号集为{-1,0,1},概率分别为: p,1-2p,P, (p≤1/2):试验信道输出Y,符号集含2个符号{-1,1},失真测度为求R(D)函数。
一个四元信源X,各符号的概率分别为p/2,(1- p)/2,(1-p)/2,p/2.失真矩阵为:
其中,p<1/2.求信源的R(D)函数,并画出曲线。
某离散无记忆信源S的符号集A={a1,a2,a3,a4,a5,a6,a7,a8},各符号的概率分别为:0.1,0.2,0.2,0.3,0.05,0.05,0.05,0.05;
设离散无记忆信源S其符号集A={a1,a2,…,aq},知其相应的概率分布为(P1,P2,…,Pq)。设另一离散无记忆信源S,其符号集为S信源符号集的两倍,A={ai}i=1,2,…,2q,并且各符号的概率分布满足 Pi=(1 - ε)Pi(i=1,2,…,q) Pi=εPi-q(i=q+1,q+2,…,2q) 试写出信源S的信息熵与信源S的信息熵的关系。
A.zxxy
B.yzxy
C.xxyz
D.xzyx
一信源有6种输出状态,概率分别为
p(A)=0.5,p(B)=0.25,p(C)=0.125,p(D)=p(E)=0.05,p(F)=0.025
试计算H(X)。然后求消息ABABBA和FDDFDF的信息量(设信源先后发出的符号相互独立),并将之与长度为6的消息序列信息量的期望值相比较。
设S为一离散无记忆信源,其符号集合为{0,1},概率分布为p(0)=0.995,p(1)=0.005。令信源符号序列的长度为n=100,假定对所有只包含3个以下符号“1”的序列编制长度为k的非奇异二进制码。求: