基于keras的rnn和lstm的文本or时间序列的分析，纯小白实战，纯新手也能看懂，以及小白自身的一些疑惑记录，对于初学者的问题能够一定程度上解决（对于pytorch的新手也能有一定帮助？）

已于 2024-02-07 17:45:56 修改
阅读量1.8k 收藏 44
点赞数 32
CC 4.0 BY-SA版权
文章标签： rnn lstm keras pytorch 循环神经网络 深度学习 tensorflow
于 2024-02-07 17:41:48 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_68149446/article/details/136071990

文章目录

本文的主要内容是对于参数的理解和我在学习过程中遇到的问题，在自己实践的情况下得到的解决，都是基础问题，已经了解的大佬可以选择跳过

简单理解RNN和LSTM

循环神经网络的经典，对于各种框架都有现成的函数支持，接下来我们对于RNN和LSTM做一个简单的了解（这不是咱们这部分的主要内容，如果想要细致了解原理请移步其它老师作品

RNN与LSTM基础（不会具体讲解）

RNN

首先简单了解下循环神经网络，实际上本质就是普通的神经网络加了一层隐藏层中的循环，简单放个图
在这里插入图片描述

中间红色的部分就是RNN和普通神经网络的区别，可能通过这个图片不是很好理解哈，没关系，咱们再放一个好理解的图
在这里插入图片描述

（我这里画的是一个输入和一个输出，实际上可以有多个输出）
红色部分就是和普通神经网络的差别，也就是上一个神经元的输出，不仅仅是到输出层，还作为下一个神经元的输入！

lstm

lstm主要通过对于四个门的特定设置，适当地对于前一个神经元的输出选择性输入，对于自身的状态也选择性更新，输出也选择性输出，简单来说就是升级版的RNN

在这里插入图片描述

RNN和LSTM能做什么？

能做的事情其实很多，我在这里介绍的主要是两个，一个是文本序列，一个是时间序列

why文本？

以RNN为例子
在这里插入图片描述

我们分别输入’I’,‘love’,‘playing’,‘computer’，想要输出’Game’。对于普通的神经网络来说会很困难，但是循环神经网络的话，它中间的特殊结构导致了它可以和上下文相联系（即设置权重什么的），因此可以较好地预测最后的单词是什么
但是其实RNN的输出是这样的（下图为比较正确的输出）：
在这里插入图片描述

每一次都预测出下一个词是什么，然后我们取最后一次的作为输出，RNN可以设置单向还是双向，因此在训练的时候就能做到这一点

why时间序列？

这个更简单，比如说我们有一个sinx图像，我们给出了一小段的趋势，想预测后面的图像如何，这样子前后的数值影响一定有关系，所以使用RNN一类的循环神经网络的话就有效果

本文重点（RNN和LSTM大多数参数都一致，改个名字即可）：

1.如何对照着理解文本和时间序列？

  • 文本序列中的句子对应着时间序列的一条时间线
  • 文本序列中的句子的词数量对应着时间序列的一条时间线中的时间节点数量
  • 文本序列中的每个单词的维度对应着时间序列的一个节点由多少个特征控制

我个人觉得前两条还是蛮好理解的，第三条我简单说明一下，每个单词的维度的意思就是，如果对单词进行独热编码之后，整个独热编码的长度

举个例子:
I love playing computer games，一共有五个单词，那么维度就是五
如果我输入’I’，得到的就是[1,0,0,0,0]
如果我输入的是’computer’，得到的就是[0,0,0,1,0]

而每个时间节点由多少个特征控制则是：

如果说我想输入航空公司前十天的数据，预测第十一天的人流量
其中可以输入的数据分别是：当天收入，当天男女比例，当天飞机起飞次数
那么我们时间节点就是由3个特征控制的，维度就是3

2.keras中参数的理解

参数很多，想要了解的同学可以自行了解，但是我在这里只简单介绍几个选项

units神经元的个数
activation激活函数
inputshape输入的形状
return_sequences是否返回序列

units就是神经元的数量
activation是激活函数，默认是’tanh’
其中对于inputshape和return_sequences做详细的介绍
inputshape是输入的句子or序列的形状，输入应该为：
( t i m e s t e p , s e q _ l e n ) (timestep,seq\_len) (timestep,seq_len)
即(句子中含有词的数量or时间序列中时间节点的数量（即时间步的长度），词的特征维度or时间节点的控制特征个数)
return_sequences是是否返回序列，这里用上面的图片做一个简单的示例
在这里插入图片描述

如果return_sequences设置为true的话，返回的就是’love’,‘playing’,‘computer’,'game’这四个词
如果return_sequences设置为false的话，返回的就是’game’这一个词，即最后一个输出

3.keras实操解释

3.1 文本

比如说我们现在有一个文本，整个文本有5句话，每句话有10个词
假设所有的词都是不一样的，那么我们整体就有了50个词，如果采取独热编码，那就是有50的长度，我们称这个长度为50的为vocab，长度是50
那么整体我们数据输入就应该是[5,10,50]这个长度
那么假设我们生成了一个这样子的文本

import tensorflow as tf
tensor = tf.random.uniform(shape=(5, 10, 50), minval=0, maxval=1
最低0.47元/天 解锁文章

200万优质内容无限畅学
2213470
关注
Keras搭建RNN
CSDN 精品推荐
08-08 273
我们添加了一个SimpleRNN层作为RNN层，指定了输出维度、激活函数和输入形状。这只是一个简单的RNN模型示例，你可以根据具体任务的要求调整模型的结构和参数。在实际应用中，可能还需要对输入数据进行预处理、选择合适的激活函数、添加正则化等操作。Keras是一个方便易用的深度学习框架，可以用来搭建各种类型的神经网络，包括循环神经网络（RNN）。在上述代码中，我们首先导入了Keras的相关模块。然后，我们创建了一个Sequential模型，通过。需要根据你的数据进行设置，分别表示序列长度和输入特征的维度。
keras从入门到放弃(十九）RNN和LSTM
微信号：RunsenLiu
04-18 2019
循环神经网络，Recurrent Neural Network。神经网络是一种节点定向连接成环的人工神经网络。这种网络的内部状态可以展示动态时序行为。不同于前馈神经网络的是，RNN可以利用它内部的记忆来处理任意时序的输入序列，这让它可以更容易处理如不分段的手写识别、语音识别等。 CNN处理图片，RNN处理文本，语音和视频 分类 完全递归网络（Fully recurrent network） Ho...
时间序列文本分析查看器：时间序列文本分析绘制用于分析事件的数据文本数据和持续时间。-matlab开发
05-31
时间序列文本分析查看器可用于分析文本数据（分类、数字、字符）。 文本数据图使用时间 (HH:mm:ss.SSS) 持续时间获取事件详细信息。 用于日期时间文本事件分析以预测结果。 用户可以输入 *.xlsx 或 *mat 文件来分析信息
【keras】rnn中的LSTM
安安爸Chris的专栏
03-29 290
keras rnn中常见的rnn layer 1. LSTM LSTM内部结构如下， 公式为 input gate:it=σ(Wixt+Uih(t−1))forget gate:ft=σ(Wfxt+Ufh(t−1))output        :ot=σ(Woxt+Uoh(t−1))New memorycell:c~t=tanh(Wcxt+Ucxt)Final memorycell:ct
Keras实现RNN模型
凌逆战的博客
03-31 5306
博客作者：凌逆战 博客地址：https://www.cnblogs.com/LXP-Never/p/10940123.html 这篇文章主要介绍使用Keras框架来实现RNN家族模型，TensorFlow实现RNN的代码可以参考我的另外一篇博客：TensorFlow中实现RNN，彻底弄懂time_step Keras实现RNN模型 SimpleRNN层 keras.layers.GR...
Keras入门教程 5.使用LSTM RNN 进行时间序列预测
水滴的博客
05-10 2177
本文 Keras 入门教程第五部分，本节使用LSTM 模型来分析 IMDB 电影评论并找出其正面/负面情绪。
基于Keras的LSTM多变量时间序列预测+python源码+文档说明
最新发布
11-26
本项目“基于Keras的LSTM多变量时间序列预测”通过构建LSTM模型，旨在实现对空气污染指数的短期预测。项目使用了北京地区空气污染数据作为实验对象，通过分析过去一段时间内的多变量数据（如PM2.5、PM10、CO、NO2等...
基于Keras的LSTM多变量时间序列预测.zip
04-03
标题中的“基于Keras的LSTM多变量时间序列预测”是指使用Keras库中的长短期记忆网络（LSTM）来预测多变量的时间序列数据。Keras是一个高级神经网络API，用Python编写，运行在TensorFlow、Theano或CNTK等后端上。LSTM...
基于keras LSTM三分类的文本情感分析 完整代码数据可直接运行 课程设计
06-27
文本情感分析是自然语言处理领域的一个重要任务，其目的是通过机器学习或深度学习技术来判断一段文本的情感倾向，如正面、负面或中性。在这个项目中，我们将关注使用Keras库中的LSTM（长短期记忆网络）进行三分类的...
Keras——用Keras搭建RNN分类循环神经网络
weixin_37763870的博客
04-19 3828
文章目录1.前言2.用Keras搭建RNN循环神经网络2.1.导入必要模块2.2.超参数设置2.3.数据预处理2.4.搭建模型2.5.激活模型2.6.训练+测试 1.前言 这次我们用循环神经网络(RNN, Recurrent Neural Networks)进行分类（classification），采用MNIST数据集，主要用到SimpleRNN层。 2.用Keras搭建RNN循环神经网络 2.1...
通过keras例子理解LSTM 循环神经网络(RNN)
benbencan的专栏
09-12 198
https://www.itdaan.com/blog/2018/05/29/f8ab22e5202a3cd84cec5f24a3e11ed.html
Keras深度学习实战（27）——循环神经网络详解与实现
盼小辉丶的博客
09-28 6803
循环神经网络 (Recurrent neural networks, RNN) 是一种十分重要的神经网络模型，基本已经成为机器翻译、语音助手、序列视频分析等应用的标准处理手段。由于其具有记忆特性，可以处理上下文环境有关系的序列数据，因此在自然语言处理领域中有着广泛的应用。本文首先介绍了 RNN 的核心思想及其架构，然后从零开始实现了一个 RNN 模型，并通过前向计算验证了 RNN 的输出，从而对 RNN 的核心机制有更深刻的理解。
Pandas文本数据处理与时间序列
方温热的博客
05-12 612
Pandas提供了一组字符串函数，可以方便地对字符串数据进行操作。 最重要的是，这些函数忽略NaN值。以下的这些方法几乎都支持Python内置的字符串函数。 函数名 描述 lower() 将Series/Index中的字符串转换为小写。 upper() 将Series/Index中的字符串转换为大写。 len() 计算字符串长度。 strip() 帮助从两侧的系列/索引中的每个字符串中删除空格(包括换行符)。 split(’’) 用给定的模式拆分每个字符串。 cat(se
使用Keras进行LSTM实战
热门推荐
浅笑古今的博客
09-20 13万+
0 前言 在上文中进行ARIMA时序预测后，了解到强大的LSTM在处理时序预测有更为优秀的表现，因此对LSTM进行了学习。 LSTM是一种时间递归神经网络，它出现的原因是为了解决RNN的一个致命的缺陷。原生的RNN会遇到一个很大的问题，叫做The vanishing gradient problem for RNNs，也就是后面时间的节点会出现老年痴呆症，也就是忘事儿，这使得RNN在很长一段时...
【Python数据分析学习笔记Day5】（五）时间序列数据分析
乐亦亦乐的博客
02-06 601
Python的日期和时间处理及操作 python中日期和时间格式化输出的方法 https://blog.csdn.net/qq_41251963/article/details/81874047 Python的日期和时间处理 datetime模块 from datetime import datetime now = datetime.now() print(now) 2020-02-06 ...
[译]在keras 上实践,通过keras例子来理解lastm循环神经网络
林学渊的博客
07-11 6530
说明：本文是对这篇博文的翻译和实践： Understanding Stateful LSTM Recurrent Neural Networks in Python with Keras 原来CSDN上也已经有人翻译过了，但是我觉得翻译得不太好，有一些关键的代码或论述丢掉了，所以我基于这篇blog再翻译一下[doc]正文一个强大而流行的循环神经网络(RNN)的变种是长短期模型网络(LSTM)。它
Keras中RNN、LSTM、GRU等输入形状batch_input_shape=(batch_size,time_steps,input_dim)及TimeseriesGenerator详解
进击的菜鸟
05-31 1万+
最近在使用Keras进行项目实战时，在RNN这块迷惑了，迷惑就是这个输入数据的形状以及如何定义自己的输入数据，因此系统的学习了一下，把学习的总结一下，感觉会有很多人在这里迷惑，如果对你有帮助记得点赞哈。 为了便于大家深入理解batch_input_shape=(batch_size,time_steps,input_dim)的意思，这里我们先从制作数据开始理解，这样效果更好，一旦这个学会，我们就...
用 LSTM 做时间序列预测的一个小例子
aliceyangxi1987的博客
06-18 10万+
问题：航班乘客预测 数据：1949 到 1960 一共 12 年，每年 12 个月的数据，一共 144 个数据，单位是 1000 下载地址 目标：预测国际航班未来 1 个月的乘客数import numpy import matplotlib.pyplot as plt from pandas import read_csv import math from keras.models impor
Keras LSTM教程
rongchengluoye的博客
10-20 8377
本文原登载在极客教程的深度学习专栏：http://geek-docs.com/deep-learning/rnn/keras-lstm-tutorial.html 文章目录 1 循环神经网络 2 LSTM网络 3 LSTM字嵌入和隐藏层大小 4 Keras LSTM架构 5 构建Keras LSTM模型 6 创建Keras LSTM数据生成器 7 创建Keras LSTM结构 8 编译并运行Ker...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值