注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

周法哲的博客

重新认识我们的世界

 
 
 

日志

 
 
关于我

做过工,开过荒,教过书,扛过枪,当过干部仍在党,现任公司董事长。业余以探索天地人和谐之道为乐!

网易考拉推荐

(原创)这里有点信息量(图)  

2009-03-19 18:34:24|  分类: 信息科学札记 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

最近几十年,风靡全球的字眼莫过于“信息”一词了,英文是Informaion。“信息”一词的字面意思是音信、消息,但信息的科学定义是什么?到目前为止全世界科学界给出的至少有100种,盲人摸象,莫衷一是!不过有些还是很有“信息量”的,比如:

“控制论”的创始人维纳(N.Wiener)是历史上把信息作为研究对象的第一人,他1948年对信息的定义是:“信息就是信息,不是物质也不是能量。不承认这一点的唯物论,在今天就不能存在下去。”

“信息论”的创始人香农(C.E.Shannon)对信息的定义是:“信息是事物运动状态或存在方式的不确定性的描述。”

根据香农的信息论,不确定性就是随机性,随机事件的不确定性一般可以用其发生的概率来计算。所以信息也可以用概率论的方法来计量。

从日常生活中我们对信息量的理解出发,借用新闻界的名言:“狗咬人不是新闻,人咬狗就是新闻。”可见信息量与我们的意外程度有关。可能性较小的事件发生,信息量就大;可能性较大的事件发生,信息量就小;必然事件发生,你会感到没有信息量。我们通常所说的“可能性”就是数学上的概率,取值范围在0~100%之间,或曰在[ 0,1 ]区间内。

设事件A发生的概率为P(A),(0 < P(A)≤1),则称

(原创)这里有点信息量(图) - 周法哲 - 周法哲的博客 (1)

为事件A发生带来的信息量。可见信息量等于事件发生概率的倒数的对数。通常取以2为底的对数,则信息量的单位为比特(bit)。

你抛一枚硬币,国徽朝上的可能性显然是二分之一,即概率P为0.5。如果结果是国徽朝上,则由式(1)可计算出其信息量为

(原创)这里有点信息量(图) - 周法哲 - 周法哲的博客

(2)

如果你想把银行卡设置1位密码,用阿拉伯数字0~9,有10种可能,用到某个数字的概率P为0.1,则由式(1)可计算出其信息量为

(原创)这里有点信息量(图) - 周法哲 - 周法哲的博客(3)

只设1位密码蕴含的信息量太小啦!不安全。如果设6位密码,每一位都有10个数字可选择,这样的密码组合共有10×10×10×10×10×10(10的6次方)种可能的编法,每种编法出现的可能性(概率)为

(原创)这里有点信息量(图) - 周法哲 - 周法哲的博客

(4)

则由式(1)可计算出其信息量为

(原创)这里有点信息量(图) - 周法哲 - 周法哲的博客

(5)

这组6位的密码蕴含了相当于20位二进制数的信息量,你的银行卡账户就安全多啦!

如果你还不放心,比如网上银行的账户密码,你可以设成8位,而且不仅使用数字,还可以使用26个英文字母(区分大小写共52个)。密码的每一位都可以是52个英文字母之一或10个阿拉伯数字之一,即有62种可能。8位密码总共有62的8次方种组合,每种组合出现的概率为

(原创)这里有点信息量(图) - 周法哲 - 周法哲的博客

(6)

则由式(1)可计算出其信息量为

(原创)这里有点信息量(图) - 周法哲 - 周法哲的博客

(7)

这组8位的密码蕴含了相当于48位二进制数的信息量,你的网上银行账户就更安全啦!

好了!这么一来我们就算知道一点信息的概念了。但信息论毕竟是一门生机勃勃的科学,“信息量”还大着呢!且听周法哲下回分解。

(作者:周法哲2009-3-19于中山)

 

  评论这张
 
阅读(2052)| 评论(9)
推荐 转载

历史上的今天

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017