已知二进制无记忆信源[0,1],相应出现的概率为p和(1-p),当熵取最大值时,p等于()。
A.0
B.0.25
C.0.5
D.1
A.0
B.0.25
C.0.5
D.1
设有两相关离散无记忆信源S1=S2={0,1},且
其中α∈{0, 0.3,0.5,0.7,1}。对各α值求出速率对的界限,并说明参数α的作用。
设S为一离散无记忆信源,其符号集合为{0,1},概率分布为p(0)=0.995,p(1)=0.005。令信源符号序列的长度为n=100,假定对所有只包含3个以下符号“1”的序列编制长度为k的非奇异二进制码。求:
一个离散无记忆信源的字符集为{-5,-3,-1,0,1,2,3),相应的概率为{0.08、0.2、0.15、0.03、0.12、0.02、0.4}。 (1)设计信源熵H(x)。 (2)设计该信源的哈夫曼(Huffman)编码。
设离散无记忆信源S其符号集A={a1,a2,…,aq},知其相应的概率分布为(P1,P2,…,Pq)。设另一离散无记忆信源S,其符号集为S信源符号集的两倍,A={ai}i=1,2,…,2q,并且各符号的概率分布满足 Pi=(1 - ε)Pi(i=1,2,…,q) Pi=εPi-q(i=q+1,q+2,…,2q) 试写出信源S的信息熵与信源S的信息熵的关系。
有离散无记忆信源,其失真度为汉明失真度。
(1)求Dmin和R(Dmin),并写出相应试验信道的信道矩阵;
(2)求Dmax和R(Dmax),并写出相应试验信道的信道矩阵;
(3)若允许平均失真度D=1/3,试问信源的每一个信源符号平均最少由几个二进制码符号表示?
已知信源U={0,1},信宿V={0,1,2}。设信源输入符号等概率分布,失真矩阵为
求信源的率失真函数R(D)。
已知某离散信源的输出有五种状态,其统计特性为
为了在二进制数字调制系统中传输该离散信源信息,需对该离散信息源进行二进制编码。若采用编码位数最小的固定长度二进制码对该离散信源进行编码。