3、从信号处理到机器学习：技术演进与融合
从信号处理到机器学习：技术演进与融合
1. 信号处理概述
信号处理是系统工程、电气工程和应用数学交叉的领域，主要分析代表物理量的模拟和数字化信号，像声音、电磁辐射、图像和视频、传感器获取的电信号等。这里着重探讨数字信号处理（DSP），它聚焦于数字化和离散采样信号的分析。“数字”一词源于拉丁语“digitus”（手指），意味着一切最终以整数形式表示。如今，DSP 技术在通信、控制、计算、经济、生物和仪器等众多科学与工程领域广泛应用。信号处理的主要任务包括滤波、编码、估计、检测、识别、合成和传输等。
2. 信号处理的发展历程
- 信号处理的早期起源：信号处理的历史几乎和人类对自然的感知一样古老，在古埃及、希腊文明和罗马帝国时期，当时的“智者”（即如今的科学家和哲学家）就开始对河流洪水、晴天和汇率等进行数字化测量和量化，并尝试用简单“算法”进行预测和建模。不过，那时只是在哲学层面探讨，数学工具和大量数据开发是后来才出现的。现代信号处理的原理可追溯到 17 和 18 世纪经典数值分析技术的进步，牛顿、欧拉、基尔霍夫、高斯、柯西和傅里叶等欧洲科学家为科学和工程发展奠定了基础，DSP 是其中最典型的例子。DSP 的根源可在 20 世纪 40 和 50 年代的数字控制系统中找到，但其显著发展和社会应用则在 80 和 90 年代。
- 1948 年：信息时代的诞生：1948 年被视为现代信号处理的诞生之年。香农发表了著名论文《通信的数学理论》，为有限带宽信道容量设定了界限，开创了信息理论。哈特利和维纳为香农提供了通信的统计视角，加博尔等也极大推动了该领域发展。同年，香农还在另一篇论文