weixin_59954476的博客

1.通道注意力模块复习2.空间注意力模块3.CBAM的定义

1.通道注意力模块复习2.空间注意力模块3.CBAM的定义

1.随机张量的生成：torch.randn函数2.卷积和池化的计算公式（可以不掌握，会自动计算的）3.pytorch的广播机制：加法和乘法的广播机制ps：numpy运算也有类似的广播机制，基本一致

昨天代码中注意力热图的部分顺移至今天知识点回顾：热力图

1.不同CNN层的特征图：不同通道的特征图2.什么是注意力：注意力家族，类似于动物园，都是不同的模块，好不好试了才知道。3.通道注意力：模型的定义和插入的位置4.通道注意力后的特征图和热力图

1.tensorboard的发展历史和原理2.tensorboard的常见操作3.tensorboard在cifar上的实战：MLP和CNN模型

1.预训练的概念2.常见的分类预训练模型3.图像预训练模型的发展史4.预训练的策略5.预训练代码实战：resnet18

kaggle的图像数据集，用cnn网络进行训练并且用grad-cam做可视化

1.回调函数2.lambda函数3.hook函数的模块钩子和张量钩子4.Grad-CAM的示例

知识点回顾：1.彩色和灰度图片测试和训练的规范写法：封装在函数中2.展平操作：除第一个维度batchsize外全部展平3.dropout操作：训练阶段随机丢弃神经元，测试阶段eval模式关闭dropout

知识点回顾1.图像数据的格式：灰度和彩色数据2.模型的定义3.显存占用的4种地方a.模型参数+梯度参数b.优化器参数c.数据批量所占显存d.神经元输出中间状态4.batchisize和训练的关系

1.Dataset类的__getitem__和__len__方法（本质是python的特殊方法）2.Dataloader类3.minist手写数据集的了解

1.过拟合的判断：测试集和训练集同步打印指标2.模型的保存和加载a.仅保存权重b.保存权重和模型c.保存全部信息checkpoint，还包含训练状态

对之前的信贷项目，利用神经网络训练。

1.三种不同的模型可视化方法：推荐torchinfo打印summary+权重分布可视化2.进度条功能：手动和自动写法，让打印结果更加美观3.推理的写法：评估模式

1.CPU性能的查看：看架构代际、核心数、线程数2.GPU性能的查看：看显存、看级别、看架构代际3.GPU训练的方法：数据和模型移动到GPU device上4.类的call方法：为什么定义前向传播时可以直接写作self.fc1(x)

1.PyTorch和cuda的安装2.查看显卡信息的命令行命令（cmd中使用）3.cuda的检查4.简单神经网络的流程a.数据预处理（归一化、转换成张量）b.模型的定义i.继承nn.Module类ii.定义每一个层iii.定义前向传播流程c.定义损失函数和优化器d.定义训练流程e.可视化loss过程

1.官方文档的检索方式：github和官网2.官方文档的阅读和使用：要求安装的包和文档为同一个版本3.类的关注点：a.实例化所需要的参数b.普通方法所需要的参数c.普通方法的返回值4.绘图的理解：对底层库的调用

1.规范的文件命名2.规范的文件夹管理3.机器学习项目的拆分4.编码格式和类型注解

1.导入官方库的三种手段2.导入自定义库/模块的方式3.导入库/模块的核心逻辑：找到根目录（python解释器的目录和终端的目录不一致）

1.类的装饰器2.装饰器思想的进一步理解：外部修改、动态3.类方法的定义：内部定义和外部定义

1.类的定义2.pass占位语句3.类的初始化方法4.类的普通方法5.类的继承：属性的继承、方法的继承

1.装饰器的思想：进一步复用2.函数的装饰器写法3.注意内部函数的返回值

1.函数的定义2.变量作用域：局部变量和全局变量3.函数的参数类型：位置参数、默认参数、不定参数4.传递参数的手段：关键词参数5.传递参数的顺序：同时出现三种参数类型时

1.异常处理机制2.debug过程中的各类报错3.try-except机制4.try-except-else-finally机制

1.元组2.可迭代对象3.os模块

1.转化器和估计器的概念2.管道工程3.ColumnTransformer和Pipeline类

kaggle泰坦里克号人员生还预测

常见的降维算法对比

SVD分解

6种经典特征筛选法

对心脏病数据集进行聚类，并且评估特征工程后模型效果。

kmeans聚类、dbscan聚类、层次聚类以及相应指标

numpy数组的创建、遍历、索引等操作。

使用kaggle上的动物分类数据集进行复习

SHAP 可视化解释机器学习模型简介

遗传算法解释

网格搜索随机搜索（简单介绍，非重点 实战中很少用到，可以不了解）贝叶斯优化（2种实现逻辑，以及如何避开必须用交叉验证的问题）time库的计时模块，方便后人查看代码运行时长

1.数据集的划分2.机器学习模型建模的三行代码3.机器学习模型分类问题的评估

本文介绍了数据可视化中的热力图和子图绘制方法。主要内容包括：1）使用pandas和seaborn绘制连续特征的相关性热力图；2）利用enumerate()函数遍历特征；3）创建自适应布局的子图系统，自动调整行列数以适应特征数量。作业要求对心脏病数据集绘制热力图和各特征分布的箱线图子图，文章提供了完整的代码实现，包括数据处理、异常值检测和可视化参数设置等关键步骤，特别强调了如何处理特征缺失和单特征的特殊情况。