优化理论
从凸优化到随机梯度下降, 研究损失函数、收敛性与优化动力学, 理解神经网络如何在高维参数空间中寻找最优解。
从梯度下降到傅里叶变换, 从概率分布到高维几何—— 在公式、信号与算法的交汇处, 探索人工智能背后的数学本质。
从凸优化到随机梯度下降, 研究损失函数、收敛性与优化动力学, 理解神经网络如何在高维参数空间中寻找最优解。
贝叶斯推断、变分推断与生成模型, 用概率语言描述数据、不确定性以及模型的生成机制。
矩阵分解、特征值、奇异值分解与张量运算, 构成深度学习高维计算的数学骨架。
从时域进入频域, 用傅里叶变换将复杂信号分解为不同频率的组成部分, 探索频谱、卷积定理与离散傅里叶变换。
持续同调、Mapper 与流形学习, 从数据的“形状”中寻找高维空间中的隐藏结构。
从谱图理论到消息传递机制, 研究图结构上的卷积与表示学习, 将组合数学与深度学习连接起来。
熵、互信息与 Kolmogorov 复杂度, 从信息的角度重新思考压缩、泛化、学习与智能。
从图像频谱到语音信号, 从卷积定理到频域神经网络, 探索频率结构如何帮助 AI 理解复杂数据。
一个复杂的信号, 可以被理解为不同频率成分的叠加。
在时域中, 我们观察信号随时间如何变化; 在频域中, 我们观察信号由哪些频率组成。 傅里叶变换建立了这两种观察方式之间的桥梁。
图像不仅存在空间结构, 也存在丰富的频率结构。 边缘、纹理和细节往往对应不同的频率成分, 频域分析因此成为理解视觉信息的另一种方式。
人类听到的是声音随时间的变化, 而频谱则揭示声音内部的频率组成。 STFT、Mel 频谱等方法已经成为语音 AI 的重要基础。
卷积定理告诉我们, 时域中的卷积对应频域中的乘法。 这一关系连接了经典信号处理与现代深度学习。
将信号从时域映射到频域, 揭示隐藏在数据中的频率结构。
卷积连接信号处理与神经网络, 而傅里叶变换使卷积在频域中的表示更加简单。
从频域分析到模型训练, 最终仍然可以回到一个核心问题: 如何寻找更好的参数。
这里是一个专注于 AI 数学基础 的知识整理与思考记录站。 我相信,真正理解人工智能不能止步于调用 API 和堆叠网络层数,而需要回到数学语言本身。 从线性代数、概率统计与优化理论, 到傅里叶分析、信息论、拓扑与几何, 这些看似独立的数学工具, 实际上共同构成了现代人工智能的理论基础。 本站将持续记录论文阅读、公式推导、 算法实现以及跨学科思考。