HarvardX TinyML小笔记2（番外3：数据工程）

已于 2025-09-02 10:19:34 修改
阅读量280 收藏
点赞数 6
CC 4.0 BY-SA版权
分类专栏： 深度学习 文章标签： 深度学习
于 2025-09-02 00:09:03 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fanged/article/details/151087810

课程链接：Course | edX

数据工程其实就是做数据集，这东西没有太多技术含量，但是可以说是决定ML成败的关键一环。毕竟有80%的时间耗费都是在高质量的数据集上。

数据决定模型上限，算法与工程仅决定逼近上限的程度。

整体步骤大概就是确定需求，收集，提炼，维持。流程倒是不难理解，首先明确需要什么样的数据集，然后用多种方式去收集，之后对数据处理验证，最后保管数据。

收集数据集的时候要注意开源协议，分析能不能使用。

数据来源的四种方式：传感器，众包，产品用户，付费用户。

总之好数据集的创建很麻烦。。。

列了几个可以直接用的数据集，Common Voice，COCO，ImageNet等等。后面有机会再看吧。

简单介绍了一下Google的Speech Commands。

Speech Commands 

https://arxiv.org/pdf/1804.03209.pdf

  • What are Speech Commands?
  • What was People’s motivation behind building Speech Commands?
  • How is Keyword Spotting different from traditional speech recognition models? 
  • What are the important metrics in speech recognition for KWS?

之后介绍了一个Web的语音收集平台，Common Voice，都是白嫖很多自愿者。。。

主页：https://commonvoice.mozilla.org/

然后说了下如何复用已有的数据集。

最后还是老生常谈的数码平权，消除偏见。有一说一，不管实际如何，起码美国的学校对这方面还是很重视的。确实未来AI时代，一些细小的偏见都可能对人类社会带来深远影响。

最后还是说明，如果数据集选的不好，就算在程序中训练的准确率再高，程序可能也有问题。

So just because your Colab says you've got a certain accuracy does not mean that it's actually doing its job well from a TinyML application standpoint.

最后的总结，其实看这一篇就够了：Course | edX

视觉SLAM笔记（36） 3D-2D: PnP
氢键H-H
10-13 1万+
PnP、直接线性变换、P3P、光束平差法（Bundle Adjustment）、最小化重投影误差（Reprojection error）
系统学习Pytorch笔记三：Pytorch数据读取机制(DataLoader)与图像预处理模块(transforms)
热门推荐
Miracle8070
04-17 7万+
Pytorch官方英文文档：https://pytorch.org/docs/stable/torch.html? Pytorch中文文档：https://pytorch-cn.readthedocs.io/zh/latest/ 1. 写在前面 疫情在家的这段时间，想系统的学习一遍Pytorch基础知识，因为我发现虽然直接Pytorch实战上手比较快，但是关于一些内部的原理知识其实并不是太懂，这样...
HarvardX TinyML小笔记2（番外2：PTQ）
fanged的专栏
08-24 120
本文介绍了深度学习中的训练后量化（PTQ）技术，用于模型压缩与加速。PTQ将高精度参数（如FP32）转换为低精度格式（如INT8、FP16），以减少模型体积、内存占用并提升推理速度，同时保持模型精度。相比于训练时量化（QAT），PTQ无需重新训练模型，成本更低。文章还展示了TensorFlow Lite的量化实现，包括权重分布分析和量化模拟代码，对比了量化前后模型大小（约缩小为1/4）。最后通过解析InceptionV3等模型的Flatbuffer格式，验证了量化后权重集中在0附近的特点。
HarvardX TinyML小笔记2（番外3：语音关键词跟踪）
fanged的专栏
08-24 404
本文介绍了音频关键词识别（KWS）的整体流程及关键技术。系统流程包括数据收集、预处理、模型设计、训练和评估，核心环节为音频信号处理：首先通过FFT将时域信号转换为频域信号，再利用梅尔滤波器组生成频谱图特征。文章详细解析了16kHz单通道音频的处理步骤，包括分帧、加窗、STFT变换和梅尔频率倒谱系数（MFCC）特征提取。通过Colab实例演示了从录音采集、FFT变换到MFCC特征生成的全过程，并测试了预训练模型的识别效果。实验表明，模型对常规语音识别效果较好（准确率90.86%），但对变调语音适应性不足。文中
HarvardX TinyML小笔记1（番外3：参数）
fanged的专栏
08-10 325
本文介绍了使用TensorFlow构建简单线性回归模型的代码实现。通过设置输入数据(xs)和输出数据(ys)，定义模型结构为单层全连接网络。关键参数包括input_shape设为[1]（一维输入），损失函数推荐使用'mse'（均方误差），因其在干净数据上表现优于'mae'。文章还总结了不同任务类型的参数设置建议：回归问题使用'mse'或'mae'，分类问题使用交叉熵损失函数。最后通过训练300个epoch并可视化不同epoch的预测结果，展示了模型的学习过程。
HarvardX TinyML小笔记2（番外1：TFLite）
fanged的专栏
08-22 560
tflite就是Tensorflow的轻量化模型，核心处理就是量化和剪枝。不过这部分目前是在Tensorflow中封装了，所以这里也不会去看细节，主要就是看看原理和使用方法。，其实就是把原来的float32换成int8。这样一个是减少了模型中的参数大小，理论上缩减到之前的1/4，另外也加快了运算。换算就是把之前的浮点数映射到int8的256个格子里面。原因是根据分析，大部分的权重都分布在一些相对狭窄的区域，也就是说很多区域其实是浪费了。所以可以压缩，这也是压缩的理论基础。
HarvardX TinyML小笔记2（番外4：视觉唤醒）
fanged的专栏
09-02 75
本文介绍了深度学习中的关键概念和技术，重点聚焦于轻量级网络设计和迁移学习应用。主要内容包括：1. 深度卷积技术（Depthwise Convolution）及其变体，通过减少参数量实现高效计算；2. 模型评估指标（Top-1/Top-5准确率）的选择依据；3. 基于MobileNet的迁移学习实践，包含数据增强、全局池化和分类头构建等技术细节；4. 两种迁移学习策略：作为固定特征提取器和微调预训练模型。文章还提供了完整的TensorFlow实现代码，涉及数据预处理、模型构建和训练过程，并针对版本兼容性问题给
HarvardX TinyML小笔记1（番外4：DNN）
fanged的专栏
08-11 157
本文介绍了深度神经网络（DNN）的基本原理及应用，重点展示了使用TensorFlow实现MNIST手写数字识别的实践案例。DNN通过多层神经元结构（隐藏层≥2）实现复杂模式识别，包含前向传播、损失计算和反向传播等核心过程。文中详细解析了两个MNIST识别程序：第一个使用20和10个神经元的两层网络达到95%准确率；第二个探讨了网络结构调整（增加层数、神经元数量）和归一化处理（像素值/255）的影响，发现归一化对准确率提升显著（从66%提升至88%）。实验表明，适当增加网络复杂度可小幅提升性能，但也需要权衡计
HarvardX TinyML小笔记1（番外2：神经网络）
fanged的专栏
08-09 193
本文介绍了神经网络的基本概念和实际应用，通过哈佛TinyML课程展示了单层和双层神经网络的实现。文章详细解释了权重(w)和偏置(b)的作用，并比较了两种网络结构的性能差异。代码示例使用TensorFlow和Keras构建神经网络模型，训练后预测结果接近真实值18.999998。最后讨论了如何根据任务复杂度选择网络层数和神经元数量，提供了调试技巧：欠拟合时增加复杂度，过拟合时减少或加入正则化。全文以实践为导向，帮助初学者理解神经网络的应用层面。
HarvardX TinyML小笔记2（番外5：异常探测）（TODO）
最新发布
fanged的专栏
09-05 126
主要是检测数据集中的异常值。提供预测性维护（predictive maintenance）。好处是。
HarvardX TinyML小笔记1（番外6：CNN）
fanged的专栏
08-14 132
本文介绍了卷积神经网络(CNN)的基本概念和应用实践。通过类比PS滤镜解释了卷积核的作用，并说明池化层相当于图像缩略图操作。实验部分使用CIFAR-10数据集构建CNN模型，包含卷积层、池化层和全连接层。初始模型训练准确率74%，验证集65%；改用Adam优化器后训练准确率提升至91%，但验证集仅68%，出现过拟合现象。实验结果表明需要进一步优化模型结构或采用正则化方法来提高泛化能力。
web3 :开源区块链浏览器调研
鄙人kunzhi96，感恩遇见！
01-23 3万+
BlockScout是一个Elixir应用程序，允许用户搜索交易，查看帐户和余额，并验证整个以太坊网络上的智能合约，包括所有的叉子和侧链。目前可用的块探测器（即Etherscan和Etherchain）是封闭系统，不能独立验证。随着以太坊侧链在私人和公共场合的不断扩散，需要透明的工具来分析和验证交易。web3 : blockscout剖析web3：使用Docker-compose方式部署blockscout浏览器+charts图表web3 :blockscout长期可用性调研分析。
系统工程（SE）学习笔记（番外篇之一）——Capella使用体会兼谈SE工具
timcurryreg的博客
03-27 6852
系统工程（SE）学习笔记（番外篇之一）——Capella使用体会兼谈SE工具零．Capella简介壹. Capella的优势贰．Capella的缺点叁. 生态环境肆. 总结 说到SE，就不能不提各种系统工程工业软件。虽然我并不认为在设计工作中引入了Sysml甚至系统工程软件，就说明设计流程就转为了基于系统工程的设计（就好比在没有CAD软件的时候，我们用手里的纸和笔一样可以画图）。但是，毫无疑问的...
OSG开发笔记（二十九）：OSG加载模型文件、加载3DMax三维型文件Demo
长沙红胖子Qt的技术博客
10-27 1万+
Osg深入之后需要打开模型文件，这些模型文件是已有的模型文件，加载入osg之后可以在常见中展示模型文件，该节点可以操作，多个逼真的模型的节点就实现了基本的场景构建。自定义文件插件主要是自定义一个插件读写类，继承osgDB::ReaderWriter类，然后根据需求重写如readNode等函数方法即可。
Llama.cpp与CUDA Graph：深度学习推理框架的兼容性深度解析
reekyli的专栏
09-03 540
在追求极致推理性能的道路上，每一个CUDA特性都可能成为关键加速器，但并非所有框架都能立即跟上硬件发展的步伐。近年来，随着大语言模型（LLM）推理需求的爆炸式增长，开发者和研究人员不断寻求优化推理性能的新方法。NVIDIA的CUDA Graph作为一项重要的并行计算技术，能够显著减少内核启动开销和CPU参与，自然成为备受关注的优化手段。那么，作为流行的大模型推理框架，llama.cpp是否支持这一强大功能？——这个答案背后隐藏着复杂的技术权衡和架构决策。
深度学习篇---SGD+Momentum优化器
道阻且长，行则将至。
09-03 293
SGD+Momentum（带动量的随机梯度下降）通过模拟物理惯性加速模型收敛，减少训练震荡。其核心原理是在参数更新时保留部分历史梯度方向（动量系数通常设为0.9），使优化过程在平坦区域加速、在噪声区域稳定。代码示例对比显示，在相同学习率下，带Momentum的模型损失下降更快、收敛更平稳，最终拟合效果更优。实际应用建议：初始采用lr=0.001+momentum=0.9组合，配合学习率调度器，适用于深层网络和噪声数据，但需注意过大的动量可能导致错过最优解。
医学图像转换的自洽递归扩散桥|文献速递-深度学习人工智能医疗图像
weixin_38594676的博客
09-04 468
Title题目Self-consistent recursive diffusion bridge for medical image translation医学图像转换的自洽递归扩散桥01文献速递介绍多模态医学图像与医学图像转换相关研究进展 在多种模态下获取的医学图像，能够捕捉到人体组织互补的诊断信息（Iglesias 等人，2013；Lee 等人，2017），但实施多模态成像方案会带来高昂的经济成本与人力成本，因而具有一定负担（Ye 等人，2013；Huynh 等人，2016；Jog 等人，2017；J
深度学习从入门到精通 - 循环神经网络(RNN)揭秘：时序数据处理核心武器
THMAIL的博客
09-04 467
本文深入解析循环神经网络(RNN)及其变体LSTM、GRU在时序数据处理中的核心作用。文章首先指出传统神经网络的时序处理缺陷，详细讲解RNN的记忆机制和数学原理，并提供PyTorch实现代码。针对RNN的梯度问题，分析梯度消失/爆炸的成因及解决方案，重点比较了LSTM和GRU的结构特点与适用场景。通过可视化图表和实战代码，帮助读者深入理解这些时序建模的关键技术，为处理股票预测、自然语言等序列任务提供实用指导。
PitVis-2023挑战赛：内镜下垂体瘤手术视频中的手术流程识别|文献速递-深度学习人工智能医疗图像
weixin_38594676的博客
09-01 667
Title题目PitVis-2023 challenge: Workflow recognition in videos of endoscopic pituitary surgeryPitVis-2023挑战赛：内镜下垂体瘤手术视频中的手术流程识别01文献速递介绍内镜视觉挑战赛与PitVis-2023挑战赛背景及核心内容 “内镜视觉（EndoVis）挑战赛”自2015年起开始举办，由医学图像计算与计算机辅助干预学会（MICCAI Society）主办（Maier-Hein 等人，2022）。该赛事涵盖一系
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值