Fork me on GitHub

机器学习系列-傅里叶变换综述

目录

  • 背景
  • 第一部分
  • 第二部分
  • 第三部分
  • 第四部分
  • 参考文献及资料

背景

傅里叶变换(Fourier transform简称:FT)应用最广泛的领域应该是信息领域。wiki中定义为一种线性积分变换,用于函数(应用上称作“信号”)在时域和频域之间的变换。

这个思想方法最先由法国科学家Jean Baptiste Joseph Fourier(1768-1830)在研究热传导时首次提出。他在1807年,向法国科学学会递交了一篇论文(即《热的传播》),运用正弦曲线来描述温度分布。论文里使用了一个未严格证明的定理:任何一个函数都可以表达为一系列不同频率的简谐振动(即简单的三角函数)的叠加。

论文在审查中,拉格朗日坚决不同意论文的发表。主要理由是:坚持认为傅立叶的方法无法表示带有棱角的信号,如在方波中出现非连续变化斜率。拉格朗日当时在法国科学院可是权威,所以科学院拒绝了傅里叶的论文。

1811年,傅立叶重新呈交了修改后的论文,这次终于获得科学院于1812年颁发的奖金,但是仍然因为缺乏严密性而被拒绝刊载在科学院的《报告》中。直到1822年,他自己担任科学院终身秘书后(权职),终于将这篇论文发表了。

https://www.zdaiot.com/MachineLearning/%E5%8D%B7%E7%A7%AF%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C/%E5%8D%B7%E7%A7%AF%E7%9A%84%E6%9C%AC%E8%B4%A8%E5%8F%8A%E7%89%A9%E7%90%86%E6%84%8F%E4%B9%89%EF%BC%88%E5%85%A8%E9%9D%A2%E7%90%86%E8%A7%A3%E5%8D%B7%E7%A7%AF%EF%BC%89/

第一部分 基础知识准备

1.1 线性空间

常见线性空间就是欧式空间,例如我们生活的3维欧式空间就是一个特殊的线性空间。那什么是线性空间呢?

首先我们有一个集合$V$,然后我们在集合上定义两个运算:加法和数乘。因为引入数乘运算,所以同时需要引入一个数域 $\mathbb{P}$。

  • 向量加法 $+: V \times V \rightarrow V$ ,即 $\forall \alpha, \beta \in V, \alpha+\beta \in V$ 。有时为了和一般数的加法相区别,也记作 $\oplus$ 。

  • 数乘 ( 称标量乘法) : $V \times V \rightarrow V$ ,即 $\forall \alpha \in V, k \in \mathbb{P}, k \cdot \alpha \in V$ 。有时为了和一般数的乘法相区别, 也记作 $\odot$ 。

集合中的任意元素在加法和数乘运算下是封闭的。另外运算还满足交换律和结合律。

  1. 向量加法的交换律: $\forall \alpha, \beta \in V, \alpha+\beta=\beta+\alpha$
  2. 向量加法的结合律: $\forall \alpha, \beta, \gamma \in V,(\alpha+\beta)+\gamma=\alpha+(\beta+\gamma)$
  3. 向量加法有零元 : $\exists \theta \in V, \forall \alpha \in V, \alpha+\theta=\alpha$
  4. 向量加法有负元: $\forall \alpha \in V, \exists \alpha^{\prime} \in V, \alpha+\alpha^{\prime}=\theta$
  5. 标量乘法对向量加法有分配律 $\forall \alpha, \beta \in V, \forall k \in \mathbb{P}, k \cdot(\alpha+\beta)=k \cdot \alpha+k \cdot \beta$
  6. 标量乘法对域加法有分配律 : $\forall \alpha \in V, \forall k, l \in \mathbb{P},(k+l) \cdot \alpha=k \cdot \alpha+l \cdot \alpha$
  7. 标量乘法与标量的域乘法相容 : $\forall \alpha \in V, \forall k, l \in \mathbb{P},(k l) \cdot \alpha=k \cdot(l \cdot \alpha)$
  8. 标量乘法有单位元 : $\forall \alpha \in V, 1 \cdot \alpha=\alpha$

满足以上8条性质便可称其为线性空间,在不引起混淆的情况下 $(V ;+, \cdot;\mathbb{P})$ 也可记为 $V 。 k \cdot \alpha$ 也可沿用几何空间 中向量数乘的习惯记为 $k \alpha$ 。

1.2 线性变换

有了线性空间的概念后,我们就可以定义线性空间之间的映射(集合上的概念)。如果映射 $\mathbf{T}: V \rightarrow W$ ,满足线性空间的加法和数乘封闭性 :
$$
\begin{aligned}
&\mathbf{T}(\alpha+\beta)=\mathbf{T}(\alpha)+\mathbf{T}(\beta) \in W \
&\mathbf{T}(a \alpha)=a \mathbf{T}(\alpha) \in W
\end{aligned}
$$
其中 $\alpha, \beta \in V , a \in \mathbb{P}$,有时候也称变换为函数。

1.3 线性子空间

在集合概念中有子集合的概念。那么线性空间中的元素首先是一个集合对象,那么当然也有子集合,那么对于这个子集合,如果还能保持线性运算(线性运算定义继承原线性空间)封闭,这就是一个子线性空间,当然中文语境我们通常称为线性子空间。

1.4 线性空间的基

根据线性空间的定义我们知道,线性空间的元素可以被空间的若干元素线性表示:
$$
v=k \cdot a+l \cdot b +n\cdot c
$$
那么就有问题:

  • 这种线性表示是否是唯一的?

    答案是否定。例如常见的3维欧式空间中点:(1,2,3)

  • 空间中是否存在无法被其他元素线性表示的对象(不含数乘生成对象)?

    存在。例如3维欧式空间中点:(0,0, 1)。其实这种代表元就是线性空间中基。

这样我们就抽象出线性空间基的概念:

1.3 函数空间

对于线性空间,我们只定义了元素间的线性结构,空间是没有拓扑结构,更没有度量、范数和内积。 例如欧式空间就是赋予了欧式度量后,元素之间有了距离结构。

第二部分 傅里叶变换

2.1 时域、频域、空间域的基本概念

https://zhuanlan.zhihu.com/p/428783752

第三部分 傅里叶变换的应用

https://codeantenna.com/a/lHTPxCro41

第四部分 快速傅里叶变换

https://www.cnblogs.com/LXP-Never/p/11558302.html

第五部分 短时傅里叶变换

5.1 局限性

非平稳过程,傅里叶变换有局限性

非平稳过程,傅里叶变换有局限性

5.2 短时傅里叶变换

5.3 窗口大小的选择

第六部分 小波分析

参考文献及资料

1、https://users.rowan.edu/~polikar/WTtutorial.html

本文标题:机器学习系列-傅里叶变换综述

文章作者:rong xiang

发布时间:2022年10月07日 - 13:10

最后更新:2022年10月25日 - 23:10

原始链接:https://zjrongxiang.github.io/posts/324e9859/

许可协议: 署名-非商业性使用-禁止演绎 4.0 国际 转载请保留原文链接及作者。

0%