注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

周法哲的博客

重新认识我们的世界

 
 
 

日志

 
 
关于我

做过工,开过荒,教过书,扛过枪,当过干部仍在党,现任公司董事长。业余以探索天地人和谐之道为乐!

网易考拉推荐

(原创)语法信息之三:模糊信息及隶属度  

2009-04-10 23:20:52|  分类: 信息科学札记 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

中国的钟义信教授的全信息包括语法信息、语义信息和语用信息,其中最基本的语法信息只有4种:概率信息、偶发信息、确定信息和模糊信息。前两回介绍了概率信息和偶发信息的计算,本文介绍模糊信息。

“模糊信息”是指事物的离散有限模糊状态按隶属度分布方式变化的外在形式,即模糊型语法信息。

首先介绍模糊集合及其隶属度的基本概念。

数学上的集合是指满足某种属性的一些元素组成的群体。普通集合的每个元素对集合性质的满足程度是100%的,即隶属度都为1。比如“不超过10的自然数”集合,就是由1,2,3,4,5,6,7,8,9,10共10个元素组成的集合。自然数11不属于这个集合,或曰隶属度为0。显然,对于这个集合来说,每一个元素的隶属度都是明晰的。所以普通集合也叫明晰集合。

然而现实中也有另一种集合,其每个元素的隶属度不是明晰的非0即1,而是模糊的。比如“远大于10的自然数”集合,如果100以上的自然数都肯定是该集合的元素,也就是说它们的隶属度都为1,那么50呢?隶属度可能只有一半即0.5左右;20呢?隶属度可能只有0.1左右;11呢?隶属度就更小啦!实际上11至99也是该集合的元素,只不过这些元素仅在某种程度上满足该集合的既定性质,也就是说隶属度是模糊的,取值处于0和100%之间。这种集合就是一个模糊集合。

一般地,模糊集合X是论域U上的一个子集,如果对于U上的任一元素u,它对集合性质的满足程度处于模糊状态,而只能用闭区间[ 0,1 ]范围内的某一数值fx(u)来表示,则该数值fx(u)叫做元素u对于集合X的隶属度。这个映射

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(1)

叫做X的隶属度函数。隶属度曲线如下图所示:

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客 

日常生活中模糊集合的实例很多,如“中老年人”集合、“漂亮女人”集合、“好书”集合等,具体每个元素(人或书)的隶属度就是模糊的。

我们把每个元素所具有的隶属度记为f,第i个元素的隶属度记为fi,整个模糊集合上的隶属度分布则记为F。需要注意的是,与概率和可能度的情形不同,隶属度不满足归一化的要求,即

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(2)

1972年以来,科学界有理论提出模糊熵的定义为

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(3)

其中

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(4)

且满足

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(5)

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(6)

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(7)

以及

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(8)

从隶属度曲线和上述理论可以看出,模糊熵d(f)具备以下基本特性:

1、隶属度曲线f越陡峭,模糊熵d(f)越小,反之模糊熵d(f)越大;

2、当且仅当隶属度f取值0或1时,模糊熵d(f)才为0;

3、当且仅当隶属度f取值恒为1/2时,模糊熵d(f)才为最大值。

我们再来看看模糊信息。所谓“模糊信息”就是事物状态变化的外在形式的模糊性带来的不确定性。同样可以用试验前后的隶属度空间的变换来描述,即

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(9)

令式(8)中的常数k =1/N,则模糊熵可以表示为

(原创)语法信息之三:模糊信息及隶属度 - 周法哲 - 周法哲的博客

(10)

模糊熵就是模糊集合的不确定性的测度,也就是语法信息中的模糊信息的信息量计算公式。

钟义信的全信息中的语法信息究竟应该如何统一计算信息量呢?且听周法哲下回分解。

(作者:周法哲2009-4-5于上海)

 

  评论这张
 
阅读(862)| 评论(9)
推荐 转载

历史上的今天

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017