一信源有6种输出状态,概率分别为 p(A)=0.5,p(B)=0.25,p(C)=0.125,p(D)=p(E)=0.05,p(F)=0.025 试计算H(X)。
一信源有6种输出状态,概率分别为
p(A)=0.5,p(B)=0.25,p(C)=0.125,p(D)=p(E)=0.05,p(F)=0.025
试计算H(X)。然后求消息ABABBA和FDDFDF的信息量(设信源先后发出的符号相互独立),并将之与长度为6的消息序列信息量的期望值相比较。
一信源有6种输出状态,概率分别为
p(A)=0.5,p(B)=0.25,p(C)=0.125,p(D)=p(E)=0.05,p(F)=0.025
试计算H(X)。然后求消息ABABBA和FDDFDF的信息量(设信源先后发出的符号相互独立),并将之与长度为6的消息序列信息量的期望值相比较。
第1题
有一离散无记忆信源,其输出为X∈{0,1,2},相应的概率为,设计两个独立实验去观察它,其结果分别为Y1∈{0,1},Y2∈{0,1},已知条件概率如表3.1所列。
表3.1 | ||
P(Y1|X) | 0 | 1 |
0 | 1 | 0 |
1 | 0 | 1 |
2 | 1/2 | 1/2 |
P(Y2|X) | 0 | 1 |
0 | 1 | 0 |
1 | 1 | 0 |
2 | 0 | 1 |
第2题
有一离散无记忆信源,其输出为X∈{0,1,2},相应的概率为P(0)=1/4,P(1)=1/4,P(2)=1/2,设计两个独立试验去观察它,其结果分别为Y1∈{0,1},Y2∈{0,1},已知条件概率如表1所示。
表1 条件概率P(Y1|X)和P(Y2|X) | |||||||
P(Y1|X) | y | P(Y2|X) | y | ||||
0 | 1 | 0 | 1 | ||||
X | 0 | 1 | 0 | X | 0 | 1 | 0 |
1 | 0 | 1 | 1 | 1 | 0 | ||
2 | 1/2 | 1/2 | 2 | 0 | 1 |
第3题
果分别为Y1,Y2符号集都为{0.1}.相应的条件概率如下,
p(y1=0,x0=p(y1=1|x=1)=1,p(y1=2|x=2)=p(y1=1|x=2)=1/2
p(y2=0|x=0)=p(y2=0|x=1)=p(y2=1|x=2)=1
(1)求I(X;Y1)和I(X;Y2),并判断哪个实验较好:
(2)求I(X;Y1|Y2),并计算做Y1和Y2两个实验比做Y1或Y2中的一个实验各多得多少关于X的信息:
(3)求I(X;X1|X2)和I(X;Y2|Y1),并解释它们的含义。
第4题
A.5000b/s
B.5600b/s
C.6000b/s
D.6900b/
第7题
设一离散无记忆信源的输出由四种不同的符号组成,它们出现的概率分别为1/2、1/4、1/8、1/8。
(1)此信源平均每个符号包含的信息熵多大?
(2)若信源每隔10毫秒发出一个符号,那么此信源平均每秒输出的信息量为多少?
为了保护您的账号安全,请在“赏学吧”公众号进行验证,点击“官网服务”-“账号验证”后输入验证码“”完成验证,验证成功后方可继续查看答案!