注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

周法哲的博客

重新认识我们的世界

 
 
 

日志

 
 
关于我

做过工,开过荒,教过书,扛过枪,当过干部仍在党,现任公司董事长。业余以探索天地人和谐之道为乐!

网易考拉推荐

(原创)语法信息及肯定度  

2009-04-15 14:41:34|  分类: 信息科学札记 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

中国的钟义信教授的全信息包括语法信息、语义信息和语用信息,其中最基本的语法信息只有4种:概率信息、偶发信息、确定信息和模糊信息。前几回介绍了概率信息、偶发信息和模糊信息的计算,而确定信息的信息量为0,那么语法信息是否能够统一测度呢?

1、肯定度

钟义信院士把香农的信息熵计及的事物不确定性拓展到肯定度cn,涵概随机事件的概率pn、偶发事件的可能度qn和模糊事件的隶属度函数fn,用来统一“语法信息”的测度。肯定度的定义如下:

考虑一个抽象试验X,它具有N种可能的结果:

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客

我们把X取某种具体可能状态xn的可能性、机会或程度称为xn的肯定度。记为

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客

肯定度的集合称为广义肯定度分布,记为C,即

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客 

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客

其中肯定度总和可以小于、等于或大于1,因此谓之“广义分布”。

特殊地,对于概率信息,肯定度就是指概率;对于偶发信息,肯定度就是指可能度;对于模糊信息,肯定度就是指隶属度。而对于确定信息,肯定度恒为1,因而信息量为0。

2、一般信息函数

设一个试验X和一个观测者R组成的系统为

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客

其中C是观测者R关于试验X的先验肯定度广义分布,C*是其后验肯定度广义分布。

则X的一般信息函数定义为

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客

它表明观测者R从试验系统中得到的信息量I,等于其对数相对平均肯定度的增量。

3、肯定度归一情况下的语法信息量

在肯定度归一情况下,有

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客 

包括概率或可能度情形,即在如下条件下:

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客 

钟义信教授从理论上已证明:对数先验平均肯定度为

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客 

而对数后验平均肯定度为

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客 

根据一般信息函数及上述的平均肯定度测度,其语法信息量为

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客

 (12)

4、肯定度不归一情况下的语法信息量

在肯定度不归一情况下,有

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客 

是隶属度分布所特有的情形,即在C=F的条件下:虽然不能直接将隶属度fn代入式(12)来计算平均肯定度,但钟义信教授认为可以在形式上把

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客 

视同对于模糊集元素xn的归一化肯定度分布。这样就可以利用式(12)并考虑取定义在N个(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客上的信息量的算术平均,计算出定义在整个模糊集合上的平均信息量:

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客 

(15)

不难证明,上式表示的信息量就是上一回讨论过的模糊熵函数d(X)。

5、语法信息的统一测度

综上所述,把式(12)和(15)合并起来,并把概率、可能度、隶属度都用广义肯定度分布统一表示,则语法信息的测度可统一表示为

(原创)语法信息及肯定度 - 周法哲 - 周法哲的博客 

其中cn为先验肯定度广义分布,cn*为后验肯定度广义分布,C为语法信息空间,P为概率信息空间,Q为偶发信息空间,F为模糊信息空间。

至此,语法信息介绍完毕。但语法信息计及的仅仅是信息的外在形式。要知信息的内在含义,必须研究语义信息,详情且听周法哲下回分解。

(作者:周法哲2009-4-6于上海)

 

  评论这张
 
阅读(757)| 评论(10)
推荐 转载

历史上的今天

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017