- 博客(59)
- 收藏
- 关注
RSS订阅原创 深度学习 --- 迁移学习以及onnx推理
摘要 本文介绍了深度学习中的迁移学习方法，以ResNet18为例展示了预训练模型的加载、权重调整和微调过程。主要内容包括：1) 使用torchvision加载预训练的ResNet18模型及其权重；2) 修改网络结构以适应10分类任务；3) 处理权重文件，删除不匹配的全连接层参数；4) 在CIFAR10数据集上训练调整后的模型，包含数据增强、损失计算和优化器配置；5) 训练过程可视化及模型保存。文章提供了完整的代码实现，展示了如何利用预训练模型进行迁移学习，提高模型训练效率和性能。
2025-08-11 18:35:31
531
原创 深度学习 --- 模型优化以及模型参数可视化
本文介绍了深度学习模型优化及可视化的关键技术。主要内容包括：1）获取开源数据集的多个途径（PyTorch、Kaggle等）；2）数据本地化处理方法（图片保存、序列化）；3）过拟合处理方案（数据增强、标准化、Drop-out）；4）训练过程可视化工具TensorBoard的使用方法（安装配置、训练曲线记录、模型结构保存）；5）验证结果数据化（将推理结果保存为Excel格式）。文章提供了完整的代码示例，帮助开发者实现模型训练过程的可视化监控和效果分析。
2025-08-06 17:18:53
790
原创 深度学习 --- 卷积神经网络基础（二）
本文介绍了卷积神经网络的几种重要变体结构。反卷积通过转置卷积核实现上采样，用于恢复图像尺寸；膨胀卷积通过插入空格扩大感受野；可分离卷积分为空间可分离和深度可分离两种，后者通过1×1卷积减少计算量；分组卷积将输入通道分组并行处理，提升效率。文章通过图示和代码示例展示了各结构的计算过程，并分析了参数效率，指出小卷积核堆叠既能保持特征提取能力又能减少参数数量。这些结构扩展了CNN的应用场景，为网络设计提供了更多灵活性。
2025-08-05 17:10:40
812
原创 深度学习 -- 卷积神经网络基础（一）
卷积神经网络（CNN）是一种受生物学启发的深度学习模型，通过局部连接、权重共享和池化等特性，能够有效处理图像数据。相比全连接神经网络，CNN具有参数少、计算效率高、能够提取局部不变性特征等优势。文章详细介绍了卷积运算的原理（包括步长、填充等操作）、权值共享机制以及池化操作（最大池化和平均池化），并通过代码示例展示了二维卷积的实现过程。这些特性使CNN在图像处理任务中表现出色，具有平移、缩放和旋转不变性。
2025-08-04 14:54:40
897
原创 使用全连接神经网络训练和预测MNIST以及CIFAR10
这篇文章摘要总结了使用全连接神经网络(FCNN)训练和预测MNIST手写数字数据集以及CIFAR10数据集的完整流程。内容包括：1)数据准备与加载，2)神经网络架构构建(包含3个全连接层和批归一化)，3)训练过程实现(使用交叉熵损失和Adam优化器)，4)验证方法，5)模型保存与加载，6)测试预测功能。同时文章也展示了类似流程在CIFAR10数据集上的应用，包含数据增强技术如随机翻转和旋转。代码实现完整，涵盖从数据预处理到模型部署的各个环节，并考虑了GPU加速支持。
2025-08-01 17:07:55
636
原创 深度学习 --- 批量标准化以及模型保存和加载
批量标准化(Batch Normalization)是深度学习中重要的正则化技术，通过在每层输入上执行标准化操作来加速训练并提高模型稳定性。其核心步骤包括计算批次均值和方差、标准化处理、以及可学习的缩放和平移。BN在训练阶段使用当前批次统计量，测试阶段则依赖全局统计量以保证一致性。相比无BN的网络，BN能缓解梯度问题、允许更大学习率、减少过拟合，并显著提升训练速度和模型性能。实验表明带BN的网络在收敛速度和准确率上均有优势。
2025-07-31 15:39:07
661
原创 深度学习 --- 过拟合与欠拟合
深度学习模型中的过拟合与欠拟合问题及解决方法 摘要：本文介绍了深度学习中常见的过拟合和欠拟合问题。过拟合表现为训练误差低但测试误差高，通常由数据量不足、模型复杂度过高或正则化不足引起；欠拟合则是模型无法充分学习数据特征，表现为训练和测试误差均高。解决欠拟合的方法包括增加模型复杂度、添加特征、减少正则化强度等。针对过拟合问题，重点介绍了L1和L2正则化技术，其中L2正则化通过惩罚权重平方和来限制模型复杂度，L1正则化则能产生稀疏权重。文章还提供了使用PyTorch实现L2正则化的代码示例，并通过训练损失曲线对
2025-07-30 19:47:56
1010
原创 深度学习 --- 反向传播算法
深度学习中的反向传播算法简介 本文介绍了深度学习中的核心算法——反向传播（Backpropagation）。主要内容包括： 前向传播过程：详细阐述了神经网络从输入层到输出层的计算步骤，包括线性变换和激活函数应用，并给出了三层神经网络的前向传播公式。 梯度下降算法：作为反向传播的基础，讲解了梯度下降的原理、数学公式和实现步骤，重点分析了学习率的选择策略及其对训练的影响。 两种梯度下降变体：对比了批量梯度下降（BGD）和随机梯度下降（SGD）的优缺点，BGD使用全量数据计算梯度但计算量大，SGD每次仅用单个样本
2025-07-28 10:21:44
521
原创 深度学习 ---参数初始化以及损失函数
深度学习参数初始化与损失函数摘要 参数初始化是深度学习模型训练的关键步骤，对训练速度和性能有重要影响。固定值初始化（全0、全1或常数）会导致对称性问题，降低模型表达能力，通常不推荐使用。随机初始化（均匀或正态分布）能打破对称性，加速收敛，但需合理选择初始化范围以避免梯度问题。不同激活函数需要匹配的初始化策略（如ReLU适合He初始化，Sigmoid/Tanh适合Xavier初始化）。实际应用中，小范围随机初始化是主流方法，需根据网络深度和激活函数调整参数分布。
2025-07-22 20:14:48
425
原创 深度学习 --- 激活函数
深度学习中的激活函数 本文系统介绍了神经网络中激活函数的作用和常见类型。激活函数通过引入非线性特性，使神经网络能够学习和表达复杂的函数关系，增强其非线性建模能力。 文章首先分析了不使用激活函数时，多层神经网络等价于单层线性模型的局限性。随后重点介绍了两种经典激活函数： Sigmoid函数：将输入映射到(0,1)区间，适合概率输出，但存在梯度消失和计算成本高的问题 Tanh函数：输出范围(-1,1)，零中心化特性有利于收敛，但仍面临梯度消失问题 文章通过数学公式和Python代码演示了这两种函数的特性曲线和导
2025-07-22 20:07:32
886
原创 深度学习 ---神经网络以及数据准备
深度学习是机器学习的一个分支，通过多层神经网络处理复杂的数据模式。本文介绍了深度学习的基本概念、神经网络结构、数据准备方法以及PyTorch实现。 主要内容包括： 深度学习简介及其在图像处理、NLP等领域的应用 神经网络基本原理，包括人工神经元模型和全连接网络结构 数据准备方法，包括自定义Dataset类和DataLoader的使用 PyTorch实现示例，展示了如何构建全连接神经网络 文章提供了完整的代码实现，包括神经网络构建、数据加载和批处理功能。通过TensorDataset和DataLoader可以
2025-07-21 20:13:32
1173
2
原创 深度学习 -- 梯度计算及上下文控制
本文介绍了PyTorch中的自动微分和梯度计算相关内容。主要内容包括： 自动微分基础概念： 张量的requires_grad属性控制是否计算梯度 计算图动态跟踪张量操作 叶子节点与非叶子节点区分 梯度计算方法： 标量梯度计算 向量梯度计算及推导过程 多标量和多向量梯度计算 梯度上下文控制： 使用torch.no_grad()控制梯度计算 梯度累加特性及清零方法 应用案例： 使用梯度下降法求函数最小值 线性回归参数求解实现 文章通过代码示例详细展示了PyTorch自动微分机制的核心功能和使用方法，为神经网络训
2025-07-21 19:10:57
752
原创 深度学习 -- Tensor属性及torch梯度计算
本文介绍了PyTorch中Tensor的基本操作，主要包括两部分内容：1）Tensor与Numpy数组的相互转换，包括浅拷贝和深拷贝的实现方式；2）Tensor常见操作，如获取元素值和基本数学运算。文章通过代码示例展示了如何使用numpy()和from_numpy()实现内存共享的转换，以及item()方法获取单个元素值，同时说明了带有下划线的方法会直接修改原始Tensor值的特点。这些操作是深度学习中使用PyTorch进行数据处理的基础。
2025-07-17 20:21:59
251
原创 深度学习 -- 初步认识Torch
本文介绍了深度学习框架PyTorch的基础知识。首先阐述了人工智能的本质是数学计算，需要数据、网络和算力三要素共同实现。PyTorch作为基于Python的深度学习框架，提供了张量运算、自动微分和GPU加速等功能。 文章详细讲解了Tensor的创建方法（torch.tensor和torch.Tensor的区别）、线性张量生成（arange和linspace）以及随机张量生成（设置随机数种子保证可复现性）。同时介绍了Tensor的重要属性（dtype、shape、device等）和如何在CPU与GPU之间切换
2025-07-17 19:26:15
978
原创 机器学习 -- 逻辑回归以及K-means算法
摘要 本文介绍了两种重要的机器学习算法：逻辑回归和K-means聚类。逻辑回归虽然名称包含"回归"，但实际上是一种广泛应用于二分类问题的分类算法，其核心是通过sigmoid函数将线性回归输出转换为概率值。K-means是一种无监督学习算法，通过迭代优化将数据划分为K个簇，追求"簇内差异小，簇外差异大"的目标。文章详细阐述了两种算法的基本原理、API接口和实现示例，包括逻辑回归的损失函数计算和K-means的质心更新过程，并通过Python代码展示了实际应用效果。两种算
2025-07-08 15:07:52
1128
原创 机器学习 -- 拟合以及正则化技术
机器学习中的拟合与正则化技术 摘要：机器学习模型常面临欠拟合和过拟合问题。欠拟合指模型过于简单无法捕捉数据模式，表现为训练和测试误差均较高；过拟合则是模型过于复杂导致泛化能力差，训练误差低但测试误差高。正则化技术通过添加惩罚项（L1或L2）来平衡模型复杂度，提高泛化能力。L2正则化的岭回归（Ridge）通过缩小权重系数来防止过拟合，适用于特征共线性情况；L1正则化的拉索回归（Lasso）则能将部分权重压缩为零，实现特征选择。两种方法均可有效提升模型鲁棒性，具体选择取决于数据特点和需求。
2025-07-08 15:07:15
554
原创 机器学习 -- 决策树分类
摘要 决策树是一种监督学习算法，通过树形结构对数据进行分类。主要组成部分包括决策节点（进行条件判断）、叶子节点（最终决策结果）和树的深度（最大层次数）。决策树具有可视化强、解释性好、计算需求低的优点，但也容易过拟合。 构建方法包括基于信息增益和基尼指数两种。信息增益衡量属性区分数据的能力，计算公式为H(D)-H(D|A)，信息熵越大不确定性越高。基尼指数评估数据集纯度，越小表示纯度越高，计算式为1-∑p_k²。决策树通过递归选择最小化基尼指数的分割点来构建。 实际应用中，需权衡树深度与过拟合风险，选择最优划
2025-07-06 10:30:57
985
原创 机器学习 --- 贝叶斯分类算法
这篇文章主要介绍了机器学习中的贝叶斯分类算法，内容涵盖了贝叶斯理论、条件概率、全概率公式、贝叶斯推断、朴素贝叶斯推断以及拉普拉斯平滑系数等核心概念。此外，文章还通过鸢尾花数据集和葡萄酒数据集的示例，展示了贝叶斯分类算法在实际应用中的效果和操作过程。
2025-05-16 18:28:46
1182
原创 机器学习 --- 模型选择与调优
本文介绍了机器学习中模型选择与调优的常用方法，包括交叉验证和超参数搜索。交叉验证部分详细讲解了保留交叉验证（HoldOut）、K-折交叉验证（K-fold）和分层K-折交叉验证（Stratified k-fold）的原理及实现，并指出各自的优缺点。超参数搜索部分介绍了网格搜索（GridSearchCV）的使用方法，通过鸢尾花数据集示例展示了如何结合交叉验证和网格搜索来优化模型参数，最终输出最佳参数、最佳结果和预测结果。这些方法有助于提高模型的泛化能力和预测准确性。
2025-05-15 14:04:53
1170
原创 机器学习 --- KNN算法
KNN（K-近邻）算法是一种基于距离度量的分类算法，通过计算测试样本与训练样本的距离，选择K个最近邻样本，根据其多数类别判断测试样本的类别。KNN算法简单易用，但存在计算量大、高维数据效果差等缺点。使用sklearn库中的KNeighborsClassifier可以轻松实现KNN算法。本文以鸢尾花数据集为例，展示了KNN算法的完整流程，包括数据加载、标准化、模型训练、评估和预测。通过训练和测试，模型准确率达到93.3%，并保存了模型用于后续推理。KNN算法适用于小规模数据集，但在处理大规模或高维数据时需谨慎
2025-05-15 13:30:10
607
原创 机器学习 --- 特征工程（二）
本文介绍了机器学习中的特征工程，重点讨论了无量纲化和特征降维。无量纲化通过归一化和标准化处理，消除不同特征之间的量纲差异，常用的方法包括MinMaxScaler、normalize和StandardScaler。归一化将数据映射到指定区间，而标准化通过Z-score将数据转换为均值为0、标准差为1的分布。特征降维则通过特征选择和主成分分析（PCA）减少数据维度，降低计算成本并去除噪声。特征选择中的低方差过滤法通过去除方差较小的特征，保留信息量较大的特征，从而提升模型效果。
2025-05-14 23:51:35
844
原创 机器学习 --- 特征工程（一）
特征工程是机器学习中处理特征的关键步骤，旨在将原始数据转换为适合模型训练的数字特征。其核心步骤包括特征提取、无量纲化（如归一化和标准化）和降维（如主成分分析）。常用的API包括DictVectorizer（字典特征提取）、CountVectorizer（文本特征提取）、TfidfVectorizer（TF-IDF特征提取）等。特征工程通过转换器对象（如fit_transform）实现数据转换，稀疏矩阵和稠密矩阵是其常见的存储形式。对于中文文本，通常使用jieba进行分词处理。TF-IDF算法通过词频和逆文档
2025-05-13 17:56:43
1179
原创 机器学习 --- 数据集
本文介绍了机器学习中数据集的分类与加载方法。首先，sklearn数据集分为本地数据集和现实世界数据集，前者数据量小且存储在本地，后者数据量大且需通过网络获取。接着，详细展示了如何加载鸢尾花、糖尿病和葡萄酒等经典数据集，并使用pandas将特征与目标数据整合为DataFrame。此外，还介绍了如何获取现实世界数据集，如20分类新闻数据，并演示了如何加载本地CSV文件。最后，通过示例展示了如何使用train_test_split函数对列表和DataFrame数据集进行划分，以便进行模型训练与测试。
2025-05-13 17:09:28
1124
原创 OpenCV---图像预处理 （十）
本文介绍了OpenCV中的图像预处理技术，主要包括图像亮度变换和形态学变换。亮度变换通过调整像素值来改变图像的整体亮度或对比度，常用的方法包括线性变换和直接像素值修改。形态学变换则基于形状对二值化图像进行处理，核心操作包括腐蚀、膨胀、开运算、闭运算、礼帽运算、黑帽运算和形态学梯度。这些操作通过使用核（结构化元素）对图像进行滑动处理，能够有效分离物体、消除噪点、填充孔洞或突出边缘特征。具体实现中，OpenCV提供了如cv2.addWeighted()、cv2.dilate()、cv2.morphologyEx
2025-05-09 22:20:43
947
原创 OpenCV --- 图像预处理（五）
图像噪点消除，包括，均值滤波，方框滤波，高斯滤波，中值滤波，双边滤波。图像梯度处理，包括，垂直边缘提取，sobel算子，laplacian算子
2025-04-22 16:14:34
954
原创 OpenCV --- 图像预处理（三）
对于彩色图像的每个像素，它会按照一定的权重去乘以每个通道的像素值，并将其相加，得到最后的值就是灰度图像中对应位置的像素值。阈值法就是通过设置一个阈值，将灰度图中的每一个像素值与该阈值进行比较，小于等于阈值的像素就被设置为0（通常代表背景），大于阈值的像素就被设置为maxval（通常代表前景）。反阈值法是当灰度图的像素值大于阈值时，该像素值将会变成0（黑），当灰度图的像素值小于等于阈值时，该像素值将会变成maxval。本身并不是一个独立的阈值化方法，而是与 OpenCV 中的二值化方法结合使用的一个标志。
2025-04-16 17:37:17
856
2
原创 OpenCV--图像预处理（二）
边缘填充，边界复制，边界反射，边界反射101，边界，常数，边界包裹，图像色彩空间，rgb颜色空间，颜色加权，hsv颜色空间
2025-04-16 16:34:48
1261
原创 OpenCV---图像基础
OpenCV（开放源代码计算机视觉库）是一个开源的计算机视觉和机器学习软件库。由一系列 C++ 类和函数构成，用于图像处理、计算机视觉领域的算法实现。
2025-04-15 17:15:25
1166
原创 python三大库之---pandas（一）
Pandas 是一个开源的第三方 Python 库，从 Numpy 和 Matplotlib 的基础上构建而来Pandas 是 Python 语言的一个扩展程序库，用于数据分析Pandas 一个强大的分析结构化数据的工具集，基础是 Numpy（提供高性能的矩阵运算）Pandas 可以从各种文件格式比如 CSV、JSON、SQL、Microsoft Excel 导入数据Pandas 可以对各种数据进行运算操作，比如归并、再成形、选择，还有数据清洗和数据加工特征。
2025-04-03 10:00:02
1287
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人