卷积

卷积、互相关和自相关的图示比较。运算涉及函数，并假定的高度是1.0，在5个不同点上的值，用在每个点下面的阴影面积来指示。的对称性是卷积和互相关在这个例子中相同的原因。
在泛函分析中，卷积（convolution），或译为叠积、-{褶}-积或旋积，是透过两个函数和生成第三个函数的一种数学算子，表征函数与经过翻转和平移的的乘积函数所围成的曲边梯形的面积。如果将参加卷积的一个函数看作区间的指示函数，卷积还可以被看作是“滑动平均”的推广。

**定义**
卷积是数学分析中一种重要的运算。设：和是实数上的两个可积函数，定义二者的卷积为如下特定形式的积分变换：

仍为可积函数，并且有着：

函数和，如果只支撑在之上，则积分界限可以截断为：
对于
对于两个得出复数值的Function of several real variables，可以定义二者的卷积为如下形式的多重积分：
 
卷积有一个通用的工程上的符号约定：

它必须被谨慎解释以避免混淆。例如：等价于，而却实际上等价于。

**历史**
卷积运算的最早使用出现在达朗贝尔于1754年出版的《宇宙体系的几个要点研究》中对泰勒定理的推导之中。还有西尔维斯特·拉克鲁瓦，将类型的表达式，用在他的1797年–1800年出版的著作《微分与级数论文》中。此后不久，卷积运算出现在皮埃尔-西蒙·拉普拉斯、约瑟夫·傅里叶和西梅翁·泊松等人的著作中。这个运算以前有时叫做“Faltung”（德语中的折叠）、合成乘积、叠加积分或卡森积分。
“卷积”这个术语早在1903年就出现了，然而其定义在早期使用中是相当生僻的，直到1950年代或1960年代之前都未曾广泛使用。

**简介**
如果和都是在Lp 空间内的勒贝格可积函数，则二者的卷积存在，并且在这种情况下也是可积的。这是托内利定理的结论。对于在中的函数在离散卷积下，或更一般的对于在任何群的上的卷积，这也是成立的。同样的，如果而，这里的，则，并且其Lp 范数间有着不等式：

在的特殊情况下，这显示出是在卷积下的巴拿赫代数（并且如果和几乎处处非负则两边间等式成立）。
卷积与傅里叶变换有着密切的关系。例如两函数的傅里叶变换的乘积等于它们卷积后的傅里叶变换，利用此一性质，能简化傅里叶分析中的许多问题。
由卷积得到的函数，一般要比和都光滑。特别当为具有紧支集的光滑函数，为局部可积时，它们的卷积也是光滑函数。利用这一性质，对于任意的可积函数，都可以简单地构造出一列逼近于的光滑函数列，这种方法称为函数的光滑化或正则化。
函数和的互相关，等价于的共轭复数与的卷积：
 
这里的叫做移位（displacement）或滞后（lag）。
对于单位脉冲函数和某个函数，二者得到的卷积就是本身，此被称为冲激响应：
 
在连续时间线性非时变系统中，输出信号被描述为输入信号与冲激响应的卷积：

两个独立的随机变量和，每个都有一个概率密度函数，二者之和的概率密度，是它们单独的密度函数的卷积：


**图解**

**周期卷积**
两个周期的函数和的“周期卷积”定义为：

这里的是任意参数。
任何可积分函数，都可以通过求函数的所有整数倍的平移的总和，从而制作出具有周期的周期函数 ，这叫做Periodic summation：

对于无周期函数与，其周期的周期求和分别是与，与的周期卷积，可以定义为与的常规卷积，或与的常规卷积，二者都等价于与的周期积分：


圆周卷积是周期卷积的特殊情况，其中函数和二者的非零部份，都限定在区间之内，此时的周期求和称为“周期延拓”。中函数可以通过取非负余数的模除运算表达为“圆周函数”：

而积分的界限可以缩简至函数的长度范围：


**离散卷积**
离散卷积示意图
对于定义在整数上且得出复数值的函数和，离散卷积定义为：

这里一样把函数定义域以外的值当成零，所以可以扩展函数到所有整数上（如果本来不是的话）。两个有限序列的卷积的定义，是将这些序列扩展成在整数集合上有限支撑的函数。在这些序列是两个多项式的系数之时，这两个多项式的普通乘积的系数，就是这两个序列的卷积。这叫做序列系数的柯西乘积。
当的支撑集为有限长度的之时，上式会变成有限求和：


**多维离散卷积**
图像进行锐化处理的动画
类似于一维情况，使用星号表示卷积，而维度体现在星号的数量上，维卷积就写为个星号。下面是维信号的卷积的表示法：

对于离散值的信号，这个卷积可以直接如下这样计算：

结果的离散多维卷积所支撑的输出区域，基于两个输入信号所支撑的大小和区域来决定。
在两个二维信号之间的卷积的可视化

**离散周期卷积**
对比离散无周期卷积（左列）与离散圆周卷积（右列）
对于离散序列和一个参数，无周期函数和的“周期卷积”是为：

这个函数有周期，它有最多个唯一性的值。和的非零范围都是的特殊情况叫做圆周卷积：

离散圆周卷积可简约为矩阵乘法，这里的积分变换的核函数是循环矩阵:

圆周卷积最经常出现的快速傅里叶变换的实现算法比如雷德演算法之中。

**性质**

**代数**
各种卷积算子都满足下列性质：
交换律
 
结合律
 
分配律
 
数乘结合律
 
其中为任意实数（或复数）。
复数共轭
 
微分有关

积分有关
如果，并且，则有：


**积分**
如果和是可积分函数，则它们在整个空间上的卷积的积分，简单的就是它们积分的乘积：
 
这是富比尼定理的结果。如果和只被假定为非负可测度函数，根据托内利定理，这也是成立的。

**微分**
在一元函数情况下，和的卷积的导数有着：
 
这里的是微分算子。更一般的说，在多元函数的情况下，对偏导数也有类似的公式：
 
这就有了一个特殊结论，卷积可以看作“光滑”运算：和的卷积可微分的次数，是和的总数。
这些恒等式成立的严格条件，为和是绝对可积分的，并且至少二者之一有绝对可积分（）弱导数，这是Young's convolution inequality的结论。
在离散情况下，差分算子满足类似的关系：
 

**卷积定理**
卷积定理指出，在适当的条件下，两个函数（或信号）的卷积的傅里叶变换，是它们的傅里叶变换的逐点乘积。更一般的说，在一个域（比如时域）中的卷积等于在其他域（比如频域）逐点乘法。
设两个函数和，分别具有傅里叶变换和：

这里的算子指示傅里叶变换。
卷积定理声称：


应用逆傅里叶变换产生推论：


这里的算符指示逐点乘法。
这一定理对拉普拉斯变换、双边拉普拉斯变换、Z变换、梅林变换和Hartley transform等各种傅里叶变换的变体同样成立。在调和分析中还可以推广到在局部紧致的阿贝尔群上定义的傅里叶变换。

**周期卷积**
对于周期为的函数和，可以被表达为二者的Periodic summation：

它们的傅里叶级数系数为：

这里的算子指示傅里叶级数积分。
逐点乘积的周期也是，它的傅里叶级数系数为：

周期卷积的周期也是，周期卷积的卷积定理为：


**离散卷积**
对于作为两个连续函数采样的序列和，它们具有离散时间傅里叶变换和：

这里的算子指示离散时间傅里叶变换（DTFT）。
离散卷积的卷积定理为：


**离散周期卷积**
对于周期为的序列和：

相较于离散时间傅里叶变换和的周期是，它们是按间隔采样和，并在个采样上进行了逆离散傅里叶变换（DFT-1或IDFT）的结果。
离散周期卷积的周期也是。离散周期卷积定理为：

这里的算子指示长度的离散傅里叶变换（DFT）。
它有着推论：

对于其非零时段小于等于的和，离散圆周卷积的卷积定理为：


**推广**
卷积的概念还可以推广到数列、测度以及广义函数上去。函数是定义在上的可测函数（measurable function），与存在卷积并记作。如果函数不是定义在上，可以把函数定义域以外的值都规定成零，这样就变成一个定义在上的函数。
若G是有某m 测度的群（例如豪斯多夫空间上哈尔测度下局部紧致的拓扑群），对于G上m-勒贝格可积的实数或复数函数f和g，可定义它们的卷积：

对于这些群上定义的卷积同样可以给出诸如卷积定理等性质，但是这需要对这些群的表示理论以及调和分析的彼得-外尔定理。

**离散卷积的计算方法**
计算卷积有三种主要的方法，分别为
#直接计算（Direct Method）
#快速傅立叶转换（FFT）
#分段卷积（sectioned convolution）
方法1是直接利用定义来计算卷积，而方法2和3都是用到了FFT来快速计算卷积。也有不需要用到FFT的作法，如使用数论转换。

**方法1：直接计算**
作法：利用卷积的定义
: 
*若和皆为实数信号，则需要个乘法。
*若和皆为更一般性的复数信号，不使用复数乘法的快速演算法，会需要个乘法；但若使用复数乘法的快速演算法，则可简化至个乘法。
因此，使用定义直接计算卷积的复杂度为。

**方法2：快速傅立叶转换**
概念：由于两个离散信号在时域（time domain）做卷积相当于这两个信号的离散傅立叶转换在频域（frequency domain）做相乘：
:
，可以看出在频域的计算较简单。
*作法：因此这个方法即是先将信号从时域转成频域：
: 
，于是
: 
，最后再将频域信号转回时域，就完成了卷积的计算：
: 
总共做了2次DFT和1次IDFT。
*特别注意DFT和IDFT的点数要满足。
*由于DFT有快速演算法FFT，所以运算量为
*假设点DFT的乘法量为，和为一般性的复数信号，并使用复数乘法的快速演算法，则共需要个乘法。

**方法3：分段卷积**
概念：将切成好几段（section），每一段分别和做卷积后，再将结果相加。
*作法：先将切成每段长度为的区段（），假设共切成S段：
:
:Section 1: 
:Section 2: 
:: 
:Section r:  
:: 
:Section S: 
，为各个section的和
:。
因此，
:，
每一小段作卷积则是采用方法2，先将时域信号转到频域相乘，再转回时域：
:。
*总共只需要做点FFT 次，因为只需要做一次FFT。
*假设点DFT的乘法量为，和为一般性的复数信号，并使用复数乘法的快速演算法，则共需要个乘法。
*运算量：
*运算复杂度：，和呈线性，较方法2小。
*分为 Overlap-Add 和 Overlap-Save 两种方法。
分段卷积: Overlap-Add
欲做的分段卷积分， 长度为 ， 长度为 ,
Step 1: 将每  分成一段
Step 2: 再每段  点后面添加  个零，变成长度 
Step 3: 把  添加 个零，变成长度 的 
Step 4: 把每个  的小段和  做快速卷积，也就是，每小段会得到长度  的时域讯号
Step 5: 放置第  个小段的起点在位置  上, 
Step 6: 会发现在每一段的后面  点有重叠，将所有点都相加起来，顾名思义 Overlap-Add，最后得到结果
举例来说:
, 长度 
, 长度 
令  
File:Data overlap add.png|xn和hn
令  切成三段，分别为 , 每段填  个零，并将  填零至长度 
File:Seperate x overlap add.png|分段xn
将每一段做
File:Seperate result overlap add.png|分段运算结果
若将每小段摆在一起，可以注意到第一段的范围是  ，第二段的范围是 ，第三段的范围是 ，三段的范围是有重叠的
File:Summation overlap add.png|合并分段运算结果
最后将三小段加在一起，并将结果和未分段的卷积做比较，上图是分段的结果，下图是没有分段并利用快速卷积所算出的结果，验证两者运算结果相同。
File:Final result overlap add.png|结果比较图
分段卷积: Overlap-Save
欲做的分段卷积分， 长度为 ， 长度为 ,
Step 1: 将  前面填  个零
Step 2: 第一段 , 从新的  中  取到  总共  点当做一段，因此每小段会重复取到前一小段的  点，取到新的一段全为零为止
Step 3: 把  添加  个零，变成长度  的 
Step 4: 把每个  的小段和  做快速卷积，也就是，每小段会得到长度  的时域讯号
Step 5: 对于每个  小段，只会保留末端的  点，因此得名 Overlap-Save
Step 6: 将所有保留的点合再一起，得到最后结果
举例来说:
, 长度 
, 长度 
令  
File:Data overlap save.png|xn和hn
将  前面填  个零以后，按照 Step 2 的方式分段，可以看到每一段都重复上一段的  点
File:Seperate x overlap save.png|分段xn
再将每一段做 以后可以得到
File:Seperate result overlap save.png|分段运算结果
保留每一段末端的  点，摆在一起以后，可以注意到第一段的范围是  ，第二段的范围是 ，第三段的范围是 ，第四段的范围是 ，四段的范围是没有重叠的
File:Summation overlap save.png|合并分段运算结果
将结果和未分段的卷积做比较，下图是分段的结果，上图是没有分段并利用快速卷积所算出的结果，验证两者运算结果相同。
File:Final compare overlap save.png|结果比较图
至于为什么要把前面  丢掉?
以下以一例子来阐述:
, 长度 ，
, 长度 ,
第一条蓝线代表  轴，而两条蓝线之间代表长度 ，是在做快速折积时的周期
File:Original ov extra.png|xn和hn
当在做快速折积时，是把讯号视为周期 ，在时域上为循环折积分,
而在一开始前  点所得到的值，是  和  内积的值，
然而  这  个值应该要为零，以往在做快速折积时长度为  时不会遇到这些问题，
而今天因为在做快速折积时长度为  才会把这  点算进来，因此我们要丢弃这  点内积的结果
File:Cir conv ov extra.png|循环折积
为了要丢弃这  点内积的结果，位移   点，并把位移以后内积合的值才算有效。
File:Cir conv shift ov extra.png|位移以后内积

**应用时机**
以上三种方法皆可用来计算卷积，其差别在于所需总体乘法量不同。基于运算量以及效率的考量，在计算卷积时，通常会选择所需总体乘法量较少的方法。
以下根据和的长度（）分成5类，并列出适合使用的方法：
# 为一非常小的整数 - 直接计算
#  - 分段卷积
#  - 快速傅里叶变换
#  - 分段卷积
# 为一非常小的整数 - 直接计算
基本上，以上只是粗略的分类。在实际应用时，最好还是算出三种方法所需的总乘法量，再选择其中最有效率的方法来计算卷积。

**例子**
Q1：当，适合用哪种方法计算卷积?
Ans：
方法1：所需乘法量为 
方法2：，而2016点的DFT最少乘法数，所以总乘法量为 
方法3： 
:若切成8块（），则。选，则总乘法量为，比方法1和2少了很多。
:但是若要找到最少的乘法量，必须依照以下步骤
::(1)先找出:解 : 
::(2)由算出点数在附近的DFT所需最少的乘法量，选择DFT的点数
::(3)最后由算出
:因此，
::(1)由运算量对的偏微分为0而求出
::(2)，所以选择101点DFT附近点数乘法量最少的点数或。
::(3-1)当，总乘法量为。
::(3-2)当，总乘法量为。
:由此可知，切成20块会有较好的效率，而所需总乘法量为21480。
*因此，当，所需总乘法量：分段卷积<快速傅立叶转换<直接计算。故，此时选择使用分段卷积来计算卷积最适合。

Q2：当，适合用哪种方法计算卷积?
Ans：
方法1：所需乘法量为 

方法2：，选择1026点DFT附近点数乘法量最少的点数，。
::因此，所需乘法量为 
方法3： 
::(1)由运算量对的偏微分为0而求出
::(2)，所以选择7点DFT附近点数乘法量最少的点数或或。
::(3-1)当，总乘法量为。
::(3-2)当，总乘法量为。
::(3-3)当，总乘法量为。
:由此可知，切成171块会有较好的效率，而所需总乘法量为5476。
*因此，当，所需总乘法量：分段卷积<直接计算<快速傅立叶转换。故，此时选择使用分段卷积来计算卷积最适合。
*虽然当是个很小的正整数时，大致上适合使用直接计算。但实际上还是将3个方法所需的乘法量都算出来，才能知道用哪种方法可以达到最高的效率。
Q3：当，适合用哪种方法计算卷积?
Ans：
方法1：所需乘法量为 

方法2：，选择1026点DFT附近点数乘法量最少的点数，。
::因此，所需乘法量为 
方法3： 
::(1)由运算量对的偏微分为0而求出
::(2)，所以选择1623点DFT附近点数乘法量最少的点数。
::(3)当，总乘法量为。
:由此可知，此时切成一段，就跟方法2一样，所需总乘法量为44232。
*因此，当，所需总乘法量：快速傅立叶转换 = 分段卷积<直接计算。故，此时选择使用分段卷积来计算卷积最适合。

**应用**
高斯模糊可被用来从半色调印刷品复原出光滑灰度数字图像。
卷积在科学、工程和数学上都有很多应用：- 代数中，整数乘法和多项式乘法都是卷积。- 卷积神经网络应用了多重级联的卷积核心，它被用于机器视觉和人工智能，尽管在多数情况下实际上用的是互相关而非卷积。- 在非人工智能的图像处理中，用作图像模糊、锐化、边缘检测。- 统计学中，加权的滑动平均是一种卷积。- 概率论中，两个统计独立变量X与Y的和的概率密度函数是X与Y的概率密度函数的卷积。- 声学中，回声可以用源声与一个反映各种反射效应的函数的卷积表示。- 电子工程与信号处理中，任一个线性系统的输出都可以通过将输入信号与系统函数（系统的冲激响应）做卷积获得。- 物理学中，任何一个线性系统（符合叠加原理）都存在卷积。

**参见**
 反卷积- 自相关函数- 傅里叶变换

**引用**

**延伸阅读**
 .-  year=2011-  jstor=2347366- Dominguez-Torres, Alejandro (Nov 2, 2010). "Origin and history of convolution". 41 pgs. http://www.slideshare.net/Alexdfar/origin-adn-history-of-convolution date=20231030184051 . Cranfield, Bedford MK43 OAL, UK. Retrieved Mar 13, 2013.-  pages=365–372- Citation | last1=Hewitt | first1=Edwin | last2=Ross | first2=Kenneth A. | title=Abstract harmonic analysis. Vol. I | publisher=Springer-Verlag | location=Berlin, New York | edition=2nd | series=Grundlehren der Mathematischen Wissenschaften Fundamental Principles of Mathematical Sciences | isbn=978-3-540-09434-0 | mr=551496 | year=1979 | volume=115.- Citation | last1=Hewitt | first1=Edwin | last2=Ross | first2=Kenneth A. | title=Abstract harmonic analysis. Vol. II: Structure and analysis for compact groups. Analysis on locally compact Abelian groups | publisher=Springer-Verlag | location=Berlin, New York | series=Die Grundlehren der mathematischen Wissenschaften, Band 152 | mr=0262773 | year=1970.-  doi=10.1007/978-3-642-96750-4.- Citation | last1=Kassel | first1=Christian | title=Quantum groups | publisher=Springer-Verlag | location=Berlin, New York | series=Graduate Texts in Mathematics | isbn=978-0-387-94370-1 | mr=1321145 | year=1995 | volume=155 | doi=10.1007/978-1-4612-0783-2 | url-access=registration | url=https://archive.org/details/quantumgroups0000kass.-  isbn=0-201-89684-2.- edition=2 -  mr=0493420-  isbn=0-471-52364-X.- edition=2 - url=https://archive.org/details/introductiontofo0000stei.- year=2001.- isbn=0-8493-8273-4.- location=New York, N.Y..- doi-access=free- publisher=Cambridge University Press.

**外部链接**
  Earliest Uses: The entry on Convolution has some historical information. date=20110501074959 -  Convolution, on  The Data Analysis BriefBook- http://www.jhu.edu/~signals/convolve/index.html date=20120831101935  Visual convolution Java Applet- http://www.jhu.edu/~signals/discreteconv2/index.html date=20120831102747  Visual convolution Java Applet for discrete-time functions- https://get-the-solution.net/projects/discret-convolution discret-convolution online calculator
*https://lpsa.swarthmore.edu/Convolution/CI.html date=20230715160527  Convolution demo and visualization in javascript
*https://phiresky.github.io/convolution-demo/ date=20231029022044  Another convolution demo in javascript-  Lectures on Image Processing: A collection of 18 lectures in pdf format from Vanderbilt University. Lecture 7 is on 2-D convolution., by Alan Peters- * https://archive.org/details/Lectures_on_Image_Processing-  Convolution Kernel Mask Operation Interactive tutorial date=20231210161008 -  Convolution date=20230315013334  at MathWorld-  Freeverb3 Impulse Response Processor date=20231029093122 : Opensource zero latency impulse response processor with VST plugins- Stanford University CS 178  interactive Flash demo  date=20231029022042  showing how spatial convolution works.-  A video lecture on the subject of convolution date=20231029022044  given by Salman Khan-  Example of FFT convolution for pattern-recognition (image processing) date=20230319094048 - Intuitive Guide to Convolution date=20231207202207  A blogpost about an intuitive interpretation of convolution.