1.2卷积神经网络基础补充（霹雳吧啦Wz笔记）

分类卷积神经网络

第一部分 常用模型概述 dy​​​​​​​CNN经典模型汇总_ChasingdreamLY的博客-CSDN博客_cnn模型 一、LeNet5 模型 1.概述 LeNet5 诞生于 1994 年，是最早的卷积神经网络之一，并且推动了深度学习领域的发展。可以看做是其他深度模型的基础。 2.结构 3.创新点 LeNet5特征能够总结为如下几点： 1）卷积神经网络使用三个层作为一个系列： 卷积，池化，非线性 2） 使用卷积提取空间特征 3）使用映射到空间均值下采样（su...

看b站的视频总结的学习笔记！

语义分割、信号下采样、空间上的不敏感性、LargeFOV、膨胀卷积、空洞卷积、MSc、Multi-Scale

计算机视觉算法学习笔记——图像分类网络计算机视觉算法学习笔记——图像分类网络1. AlexNet1.1 网络结构1.2 关键知识点1.2.1 卷积和池化特征尺寸计算公式1.2.2 ReLU非线性激活函数1.2.3 防止过拟合2. 计算机视觉算法学习笔记——图像分类网络 由于后面工作方向的需要，也是自己的兴趣，我决定补习下计算机视觉算法相关的知识点，参考的学习资料主要是B站Up主霹雳吧啦Wz，强推一下，Up主的分享非常的细致认真，从他这里入门是个不错的选择，Up主也有自己的CSDN博客，我这里主要是作为课程的

膨胀卷积、空洞卷积、多尺度信息融合、MSc、ASPP、空洞空间金字塔池化、Step学习率策略、Poly学习率策略

AlexNet是2012年ISLVRC 2012(imageNet Large Scale Visual Recognition Challenge)竞赛的冠军网络，分类准确率由传统的70%+提升到80%+。它是由Hinton和他的学生Alex Krizhevsky设计的。也是在那年之后，深度学习开始迅速发展。最初的卷积神经网络是由LeCun在1998年提出的LeNet神经网络，但由于硬件设备受限，无法搭建大型神经网络。所以没办法发挥它很好的潜能。

1. 配置文件 2. 网络模块 3. 损失函数 4. 跨网格匹配策略

大佬的B站空间 LeNet:卷积神经网络的第一篇实际应用。 这个网络，大佬视频讲解的很清楚，我个话痴就不多言了。 LeNet代码中学到的新东西 pytorch的数据的格式[batch_size,channel,height,width],即[图片数量，图片深度（通道），图片高度，图片宽度] pytorch的卷积Conv函数（卷积核通道数，卷积核个数，卷积核尺寸，卷积步长，卷积填充） transform函数，作用好像是图像数据预处理成tensor变量，划定尺寸，自定义分割等等。 函数iter(),自动迭代

注意：计算多类损失过层中，一般最后一层使用softmax激活函数。SGD：分批次进行训练，每一批次（随机的）进行损失的计算以及损失的反向传播。输出的特征矩阵channel与卷积核个数相同。其实到这里并没有结束，问：计算的损失是否指向全局最有的方向。结果：卷积核的channel与输入特征层的channel相同；针对不同的分类问题，我们会分别通过如下的公式计算损失。注意：学习率下降的太快可能还没收敛就停止训练。池化层没有训练参数。目的：为了使网络更快的收敛。可以发现结果满足概率分布。目的：进行图像特征的提取。

在当今数字化时代，时间序列数据无处不在，从工业设备的传感器监测数据到金融市场的交易记录，从医疗设备的生理信号到电商平台的用户行为数据，这些数据蕴含着丰富的信息。然而，异常数据往往隐藏在这些看似规律的序列中，它们可能是设备故障的前兆、金融欺诈的迹象、健康问题的预警，甚至是用户行为的异常变化。尽管仍面临一些挑战，但随着技术的不断进步，我们有理由相信，深度学习将在时间序列异常检测领域发挥更大的作用，为我们的生活和工作带来更多的安全保障和便利。在异常检测中，正常数据的重建误差通常较小，而异常数据的重建误差较大。

梯度下降算法回顾、训练流程的几个概念（Epoch轮次、Batch Size批次大小、Iteration迭代）、梯度下降的 3 种实现方式、前向传播（计算预测值与损失）与反向传播（计算梯度并更新权重）、梯度下降的优化方法（指数加权平均、动量优化算法Momentum、AdaGrad算法、RMSProp算法、Adam算法）、学习率衰减算法（等间隔学习率衰减、指定间隔学习率衰减、按指数学习率衰减）

在金融领域的短期价格趋势预测中，深度学习和订单簿分析各自发挥着重要作用。深度学习作为机器学习的一个重要分支，凭借其强大的特征提取和复杂模式识别能力，为处理金融市场的海量数据提供了有力工具。而订单簿分析则聚焦于市场微观结构，通过解读订单簿中的买卖订单信息，揭示市场参与者的行为和意图，为价格趋势预测提供独特的视角。

测试函数和绘图函数均被封装在了train函数中，但是test和绘图函数在定义train函数之后，这是因为在 Python 中，函数定义的顺序不影响调用，只要在调用前已经完成定义即可。作业：仔细学习下测试和训练代码的逻辑，这是基础，这个代码框架后续会一直沿用，后续的重点慢慢就是转向模型定义阶段了。动态维度指定：使用-1让PyTorch自动计算该维度的大小，但需确保其他维度的指定合理，避免形状不匹配错误。结果：展平为两个维度，保留batch_size，第二个维度自动计算为3×28×28=2352。

今天，AI 领域又添重磅消息 ！OpenAI 的推理系统在 2025 年国际信息学奥林匹克（IOI）中斩获金牌，不仅在 AI 参赛者中稳居榜首，更在全球 330 名人类选手中排名第六，仅落后于 5 位顶尖选手。 这一成绩距其在IMO2025 中拿到金牌级表现不过数周，再次刷新了外界对 AI 推理能力的认知。