题目内容
(请给出正确答案)
[主观题]
在一个布袋中有r个红球,ω个白球,b个黑球,从布袋中取k≥2个球,每次取出球后放回还是每次取出球后不放回的熵H(
在一个布袋中有r个红球,ω个白球,b个黑球,从布袋中取k≥2个球,每次取出球后放回还是每次取出球后不放回的熵H(Xi|Xi-1…X1)更大?
答案
(1)每次取球后放回
这种情况下每次取球的条件概率分布都相同。
因此
H(Xi|Xi-1…X1)
(2)每次取球后不放回
每次取球后的无条件概率分布为
因此无条件熵为
而条件熵为
H(Xi|Xi-1…X1)<H(Xi)
因此不放回的熵更小。