自信息

  	      	      	    	    	      	    
 什么是自信息 
 
　　自信息是指由克劳德•夏农提出的用来衡量单一事件发生时所包含的信息量多寡。它的单位是bit,或是nats。 
　　假设事件ωn发生的机率是 P(ωn)，自信息 I(ωn) 的就是: 
 
  
 
　　因此，一个随机产生的事件所包含的信息本体数量，只与事件发生的机率相关。事件发生的机率越低，在事件真的发生时，接收到的信息中，包含的信息本体越大。 
　　自信息还有这样的特性：如果事件c中包含了两个相互独立的事件a与事件b，当事件c发生时,它所包含的信息本体量，等于事件a的信息本体量加上事件b。一系列事件的信息本体加总之后，平均的信息本体值就是信息熵。 
　　信息量的大小不同于信息作用的大小，这不是同一概念。信息量只表明不确定性的减少程度，至于对接收者来说，所获得的信息可能事关重大，也可能无足轻重，这是信息作用的大小。 
 
  自信息是一个小作品。你可以通过编辑或修订扩充其内容。