傅里叶变换与卷积的关系,CNN工作原理

介绍

为了理解卷积，我们需要证明一下傅里叶变换，首先看一下傅里叶变换的两个公式，频域和时域：

$$F(\omega)=\int^{+ \infty}_{-\infty}f(t)e^{-i\omega t} dt$$ $$f(t)=\frac{1}{2\pi}\int^{+\infty}_{-\infty}F(\omega)e^{i\omega t}d\omega$$

我们复习一下泛函的基本思想：泛函分析本身是研究算子在空间内的性质，它将算子当作一个向量，可以进行仿射或分解，并且有定义的算子一定是处在一个完备空间内的。既然如此我们就可以尝试一下证明了！

证明

首先我们定义内积空间D，D满足齐次性，非负性，三角不等式。为了方便我们叫D为频域空间，对原函数f(x)我们首先将他变换到频域空间D内。

$$d_i∈D,\vec f = f(x),<f,d>$$

我们定义d为D的一组基，f为f(x)的泛函，f和d构成内积空间。f在d上的分量为u，由三角形关系可得：

$$|\vec u|=|\vec f|cos<\vec f,\vec d_i>$$

我们将向量除以他的长度让他变成单位向量，同时得到一个内积的表达式，便于接下来的表示。

$$|u_i| =|\vec f||\vec d_i|cos<\vec f,\vec d_i>\frac{\vec d_i}{|\vec d_i|}$$ $$|u_i| = <\vec f,\vec d_i>\hat {\vec d_i}$$

我们最后得到了内积关系关于d的单位向量。我们进行展开内积：

$$<\vec f,\vec d_i> =\int_{-\infty}^{+\infty}\vec f(x)\; \vec d_i \; dt$$

带入后可以得到：

$$|u_i|=\int_{-\infty}^{+\infty}\vec f(x)\; \vec d_i \; dt·\vec {\hat d_i}$$

我们需要让d的每一个分量都能够正交，所以结合欧拉公式我们让d=$e^{iwt}$，所以我们得到最后结果：

$$|u_i|=\int^{+ \infty}_{-\infty}f(t)e^{-i\omega t} dt = F(w)$$

这样时域转频域就证明了。我们利用展开内积的关系可以得到：

$$\vec f = \sum F(w)\vec {\hat d_i}=\sum F(w)\frac{\vec d_i}{|\vec d_i|}$$ $$\sum F(w)\frac{\vec d_i}{|\vec d_i|}=\sum F(w)\frac{\vec d_i}{<\vec d_i,\vec d_i>}$$ $$<\vec d_i,\vec d_i> = lim\int_{-\frac{l}{2}}^{\frac{l}{2}}e^{iwt}e^{-iwt}dt=\frac{2\pi}{dw}$$ $$\sum F(w)\frac{\vec d_i}{<\vec d_i,\vec d_i>^{\frac{1}{2}}}=\frac{1}{2\pi}\sum F(\omega)e^{i\omega t}d\omega$$

我们把无穷级数用积分的形式表达出来就有：

$$f(t)=\frac{1}{2\pi}\int^{+\infty}_{-\infty}F(\omega)e^{i\omega t}d\omega$$

这样我们就证明了傅里叶的两个变换。

卷积与傅里叶变换的关系

首先我们理解一下卷积定理：

$$F(f·g)=F(f)·F(g)$$

f和g的傅里叶变换等于傅里叶变换的乘积。我们可以看到如果我们把卷积核(f)当作一个函数的傅里叶变换后的结果，我们很容易看出，卷积在定义上等于傅里叶变换。

总结

本文证明了傅里叶变换的公式，同时描述了傅里叶变换与卷积的等价关系，读者可以很清晰的了解到卷积的本质就是傅里叶变换。