对香农《通信的数学理论》的理解

来源:互联网 发布:windows字体怎样安装 编辑:程序博客网 时间:2024/05/05 18:25

(网络的一个层次就是信息的流动)

Abstract:信息的形式与信息传递的路径是耦合的。(介绍相关的重要工作,引用)信息的传递是模糊的,即最后可能只能有近似信息的传递。于是这是多通路多可能的传递路径,而本征的路径是符合能量最低化的,其他路径使得通路具有一定的稳定性。(自己工作在前人的基础的衍生)

基本假设:选择每条消息的可能性不相等,这是基于网络的分布性质,从而体现一定的幂律分布。对数函数是我们的一个优先选择。不仅仅是层次之间的变换,最后我们还要考虑到一定的统计分布。

1作为度量是惯用的分类,如地震分级等等;2能够以收敛的数量变化表示可能性的变化:线性变化可以带来组合可能性的爆炸增长3极限运算很容易用对数表示,这与指数函数的性质相关4可以施加一定的调节处理(优越性)

网络的基本一阶结构是序列如101100010,这是一个信息的表示结构。

系统的形成:O –O,这是基于基本的对象之间的相互作用,然后其可以不断升维形成高维结构,在不同层次之间的相对关系就是涌现的性质。这些系统的一般性问题可以分解为一定的函数,泰勒级数的分解是个很好的例子。而傅里叶变换和傅里叶级数可以将这些非周期的信号表达为一定周期函数的组合。函数可以等价于一定的矩阵,序列的表示形式可以进一步地表示为一定的矩阵如1=(2,1;1,2)

Article:

信息的传递已经由香农的信息论解决了,接下来是对信息的意义进行探究:信息的意义是相对的,也是分布的:大规模的信息都是没有意义的,但小部分的信息具有极大的价值。这种相对性,我们倾向于使用层次的组合,耦合的微分方程是其中的依照关系表达。然后就有一定的反馈机制的形成,这是动态平衡的方向决定的,在大规模层次的耦合下会形成特定的通路。

层次的分布是一定的正态分布(这是一种倾向,但这是大规模才成立的,在局部是这种趋势的选择性表达的结果),特定的层次耦合就是分布函数的耦合(卷积)。而不同层次之间有一定的异速标度律,这是网络层次涌现的关系。这在高层次揭示了独立变量之间的相互作用,我们需要分解为更低层次,如序列的单个基元可以分解为一定的矩阵。这是一种量子化的探索,将一定的随机变量X分解为更小层次的量子变量x,后者组合形成的矩阵可以得到前者。

这方面Stella 和 Baldovin 做了重要的探索:(P,g都是概率分布函数,变量X可以分解为N个变量x,D是相互独立程度的度量,如果 x 相互独立,则 D=1/2)。我们的工作就是以矩阵的形式来理解,并以矩阵的加和相乘的形式来表达相互作用。

边界的划分,然后可以根据相对比例确定各个对象的关系。

定义一定的序列与复杂的对象构建一定的对应关系,能够有利于信息传递的成本。不同颗粒度(长度)的序列(组合形式)的概率不同。此时我们引入生物学的中心法则,我们可以看到密码子表与这种关系是对应的,连续的三个碱基对对应一个氨基酸,其中有不同的分布(有的氨基酸对应的密码子多,有的少)。而且蛋白质形成过程是一种升维的过程。

一个系统存在有限种可能“状态”。此外,还有一组转换概率,也就是当系统为状态1接下来进入状态2的概率。为使此马尔可夫过程表示这些状态的转移,而且形成不同的通路。

层次的耦合在一阶可以理解为元素之间的线性组合,即矩阵的乘法。然后我们继续升维遍历,即卷积。

对确定性的度量可以通过对不确定性的度量得来。

网络的表达语言本质上是概率。表示为层次的相对比例(矩阵的除法?)

香农熵,对概率的一种度量。这个概率可以替换为一定的序列

0 0
原创粉丝点击