卷积的物理含义

这几天看了几本中文教材，几本英文教材，深感概率论是一门跨度非常大，涉及数学面很广且理论很深的学科。本科时学的知识完全只是九牛一毛，但目前我也只能复述一些基本的本科内容，再附上点我个人的拙劣见解，权当用于给自己复习的『知识框架』了。

本来想总结一些典型的连续随机变量分布的分布函数、密度函数以及它们之间的转化关系，但看到卷积的知识后觉得这个从本科就开始的老大难问题一直困扰着大家，困难主要来源于公式的抽象，所以今天先用一些实际的例子从直观上理解一下卷积，因为再概率论和信号处理乃至今天的模式识别中，卷积都是大量存在的一种运算，现在deep learning的主要network也是卷积神经网络cnn(但cnn中的这个卷积概念其实很简单，至少从形式上看是这样的。）

1.关于卷积

本科时第一次接触卷积是在复变里，书里给的公式很是抽象：
∫+∞−∞f(x)g(t−x)dx
乍一看这是两个函数乘积之后在(−∞,+∞) 上做了一个无穷积分，看不出什么直接的物理含义。我一开始学的时候也是各种挠头，觉得这是个很神奇的东西。但现代分析学中的很多内容还是脱胎于信号处理中的一些实际问题，所以还是有很明确的物理意义的。只不过教科书上不讲（这帮编书的人可真是布尔巴基学派的好学生）

首先先说一句卷积的本质：卷积就是一种加权求和，即：Sn=a0x0+a1x1+...+anxn 。那么这个简单的求和公式是如何变为∫+∞−∞f(x)g(t−x)dx 这种复杂的形式呢？我们看下面这个实际例子：

有一个核废料装填池，机器人在每天的一个固定时间点都要向这个池子装填一定量的未经衰变的废料(一次性瞬间装入)，f(t)是装填核子废料的速率，单位是kg/天。每千克核子废料的辐射能力随时间衰变的函数是：g(t)=e−t（单位是西佛/kg）。现在求问，在第n天装填工作结束后，这个池子内的辐射总量是多大？

我们先考虑第一天装填后，第二天装填前，辐射量的大小。第一天装填的量是f(1)×1，在第二天装填工作正要进行之前，它已经衰变了一天，所以此时的单位辐射能力是e−1。那么，很容易就求得此时的辐射量是f(1)×1×e−1。

现在我们考虑第二天装填后，第三天装填前池子中的辐射总量：第二天填入的废料量为f(2)，第二天填入的废料在第三天的装填前，已经衰变了一天，所以单位辐射能力是e−(3−2)=e−1 ，这部分废料产生的总辐射是f(2)×1×e−1。而此时，第一天装入的废料f(1) 已经衰变了两天，所以这部分废料每单位的辐射能力是e−(3−1)=e−2，这部分废料的总辐射能力是f(1)×1×e−2。池子中总辐射量是f(1)×1×e−2+f(2)×1×e−1。

根据这两步简单的计算，我们可以总结出第n天添加废料前，池子内的辐射总量是：∑n−1t=1f(t)g(n−t)×1 看这个公式是不是和上面的积分公式有点像了？（因为我是按从第一天开始计算的，所以这个式子的求和上下限有点奇怪，把它改成从0开始会好一些）

用语言来叙述它的物理意义就是：每一天填入的核子废料在第n天有着不同的衰变，早填入的衰变多，晚填入的衰变少。所以在第n天时，不是同时加入的核废料对最后总辐射量的『贡献』不同，g(n−t)就是这个贡献大小的衡量，这是一种滑动求加权平均的过程。g(n−t)就是加权系数。

如果我们不是每天加入，而是每Δt固定倾倒一部分核废料，那么公式应该是∑n−1t=1f(t)g(n−t)×Δt (t不是第t天，而是第t个时间片段）

现在我们把它连续化，假设这个机器人不是『离散』地把废料加入，而是『连续』地加入，求和就变为了积分， Δt就变为了dt，公式为：∫n0f(t)g(n−t)dt ，即为连续函数的卷积公式。（这个例子是我在网易公开课上看一个MIT的常微分方程课的时候看到的，地址：http://open.163.com/special/opencourse/equations.html）

卷积有很多独特的性质，在信号处理中，一个信号f(t)与冲击信号δ(t)的卷积就是它自己，而与单位阶跃信号的卷积是它自己的积分（函数的每个点对『面积』的贡献都是同样的）还有一个重要的性质就是变换函数的乘积即为原函数的卷积的变换。

在概率论中，每个随机变量服从的分布函数都有一个特征函数与之对应，特征函数就是分布函数由傅里叶变换等变换得到的。n个独立随机变量的和也是一个随机变量，这个随机变量的分布函数是由之前n个随机变量的分布函数做卷积得到，概率密度函数也是之前n个随机变量的概率密度卷积得到的。将这个分布函数做特征变换，得到的是之前n个随机变量的特征函数的乘积。卡方分布就是n个互相独立的服从高斯分布的随机变量的平方和。其实高斯分布的平方是伽马分布，所以服从卡方分布的随机变量也是n个独立的服从伽马分布的随机变量的和。与概率论结合的部分先就写写结论，具体的推到有空再总结吧。有一些细节还是没有解决好。