解决服务器运行Flask与keras多线程扰动的问题

最新推荐文章于 2021-10-09 15:10:03 发布
最新推荐文章于 2021-10-09 15:10:03 发布
阅读量721 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 深度学习 Linux 文章标签： tensorflow flask keras 多线程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012052268/article/details/108451063
服务器上运行Flask接口时，由于Keras后端Tensorflow的多线程特性，出现线程扰动导致模型预测结果不一致甚至失效。解决方法是在文件开头设置Tensorflow线程，并在接口调用模型推理时使用`tf.keras.backend.set_session`确保图的稳定。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

现象：

  • 服务器上 运行flask接口；
  • keras后端是tensorflow；
  • 会出现线程扰动。

经常出现

FailedPreconditionError: Attempting to use uninitialized value batchnormalization_

或者Tensor Tensor("crf_1/cond/Merge:0", shape=(?, ?, 260), dtype=float32) is not an element of this graph.

使用keras.backend.clear_session()可能会导致前后两处预测结果不一样，因为图发生了变化
或者直接失效。

解决办法：

在mianFlask.py文件开头写上：

#### 开头
myYolo = YOLO()
global graph
graph = tf.get_default_graph()
#--
最低0.47元/天 解锁文章

200万优质内容无限畅学
flask keras 多线程环境下加载模型
u013465194的博客
05-06 2612
keras 多线程环境下加载模型 Tensor Tensor is not an element of this graph. 问题场景 keras 使用flask 发布深度学习模型服务，模型有一个定时任务（新开了一条线程）来进行训练以及重新加载，出现了错误。 Tensor Tensor("dense_1/Sigmoid:0", shape=(?, 59), dtype=float32) is n...
Flask之分析线程和协程threadinglocal应用场景（Flask的request,session内部实现原理2）
超级丹的专栏
09-20 306
request源码分析： 1、若考虑单进程单线程，可使用全局变量； 2、若考虑单进程多线程，可使用threading.local； 3、若考虑单进程单线程(多个协程)，threading.local做不到,需要自定义类似threading.loacal（支持协程）； 如下是自定义的可支持协程，线程的Local类： 需要注意： 1、__se...
keras 发布flask 问题汇总
ESOO
08-16 1600
1，keras重复加载model会报错 解决办法： import keras # load之前保证session干净 keras.backend.clear_session() model = load_model(args["model"]) 2，linux后台启动python，丢失窗口后，无效 解决办法： 启动api: nohup python3 ImageNetApi.py ...
flask中的线程隔离
weixin_36672636的博客
03-03 422
1.引入 首先，下面的代码没有采用线程隔离的方法，主线程中开启一个新线程调用test方法，最后的打印结果显然为 2 import threading class TestThread: value = 1 s = TestThread() def test(): s.value = 2 new_thread = threading.Thread(target=test,na...
flask搭建Keras服务出现的问题解决办法
热门推荐
Keras深度学习
09-28 1万+
当使用Keras训练好了一个识别模型后，如果采用线上部署为服务，一般情况下采用flask或者Django进行服务搭建。
【深度学习与文本挖掘】：探索深度学习在文本挖掘中的5大创新应用
![【深度学习与文本挖掘】：探索深度学习在文本挖掘中的5大创新应用](https://image.woshipm.com/wp-files/2019/08/4lCfQ4lt1J9yQWzjp269.png) ...文章还讨论了深度学习文本挖掘的伦理问题，包括数据隐私和机
python开发肺结节软件
最新发布
04-16
- 多线程处理框架： ```python from concurrent.futures import ThreadPoolExecutor def process_slice(slice): # 单切片处理逻辑 with ThreadPoolExecutor() as executor: results = list(executor.map...
【BP神经网络部署实战】：从MATLAB到生产环境，一步到位的专业指南
本文首先介绍BP神经网络的基础理论，然后详细探讨了如何在MATLAB环境中实现BP神经网络，包括环境搭建、网络设计、训练、评估与优化。进而，文章分析了BP神经网络在生产环境中的部署需求、转换策略及集成测试。通过两...
深度学习模型推理加速：如何选择最佳实时框架（权威解读）
深度学习模型推理与实时框架概览 深度学习技术的飞速发展，极大地推动了人工智能的应用领域。其中，模型推理作为深度学习应用的核心环节之一，关乎到实时决策、交互响应等关键性能指标。实时框架作为实现快速模型...
使用TensorFlow服务和Flask部署Keras模型！
木东的博客
01-21 2723
部署Keras模型通常需要抽象出你的机器学习模型，并将其与易于使用的API端点一起部署或集成。例如，我们可以提供一个URL端点，任何人都可以使用它来发出POST请求，他们会得到模型推断的JSON响应，而不必担心其技术性细节。 在本教程中，我们将创建一个TensorFlow服务器来部署我们在Keras内置的InceptionV3图像分类卷积神经网络（CNN）。 然后，我们将创建一个简单的...
Flask 部署 Keras 深度学习模型
跨学科知识视角展现
10-09 494
本文演示了如何使用由 Keras 构建的深度学习模型，设置端点以提供预测服务。 它首先介绍了一个使用 Flask 设置 Python 端点的示例，然后展示了在使用 Flask 构建用于预测的 Keras 端点时，需要解决的一些问题。 本文目的是展示如何使用 AWS 将 Keras 模型设置为 EC2 实例上的端点。我从探索以下示例开始： 构建一个简单的 Keras 深度学习 REST API。 我将讨论的一些问题包括，在将模型持久性与 Keras 结合使用时，处理自定义指标；在将 Keras 与 Flask
机器学习 keras+flask（或者Django）问题
qq_36213248的博客
05-09 1930
keras在flask跑出现的问题 alueError: Tensor Tensor("dense_3/Sigmoid:0", shape=(?, 59), dtype=float32) is not an element of this graph. 原始代码 X = img.reshape([1, 32, width, 1]) y_pred = basemod...
flask快速搭建tensorflow http服务
Alex.W.的机器学习之路
08-05 1万+
tensorflow是目前最受欢迎的deep learning框架之一，在学术界和产业界都有广泛的使用。在如何部署tensorflow模型提供远程调用服务方面官方提供了tensorflow serving框架，详细的介绍可以参考官网资料：https://tensorflow.github.io/serving/。本文主要介绍另一条部署服务的途径：利用flask快速搭建tensorflow http服
#######使用 Keras 和 Flask 构建一个在线 API
木东的博客
11-28 893
用Jupyter notebook 来进行演示在生产环境中并不是很实用，在应用环境中如果想要预测一个场景通常需要返回指定格式的文本形式的信息，我写了一个小例子，使用flask架构创建了一个简陋的API，客户端通过curl工具上传图片，并返回指定格式的json流。 首先需要安装flask pip install flask 将下面的代码保存为 keras_api.py 然后在实验环境下输入 py...
flask部署keras模型的问题
ANDY
11-07 602
问题： raise ValueError(“Tensor %s is not an element of this graph.” % obj) ValueError: Tensor Tensor(“dense_3/Sigmoid:0”, shape=(?, 59), dtype=float32) is not an element of this graph. 我的解决方案 初始化部分加入“se...
python flask多线程线程数量异常
f351873170的博客
04-07 1414
项目场景： 在flask中使用threading模块，进行多线程代码调用 问题描述： flask运行后线程数目会比预期的数量多一个未知的线程 import threading import time from flask import Flask app = Flask(__name__) global thread def test(): while True: length = len(threading.enumerate()) print("线程数量
python flask 多线程_flask如何开启多线程详解
weixin_39559382的博客
12-10 6320
在我之前写的《flask中current_app、g、request、session源码的深究和理解》一文中解释了flask如何支持多线程主要通过两个类来实现,LocalStack和Local,在Local中有两个属性,__storage__和__ident_func__,后者用来获取线程id,从而区分不同线程发来的请求这次要说的是flask如何开启多线程先从app.run()这个方法看起def ...
解决Keras多线程机制和flask多线程冲突的方法
欲上青天揽明月
08-30 2339
在使用flask部署Keras，tensorflow等框架时候，经常出现 FailedPreconditionError: Attempting to use uninitialized value batchnormalization_ 或者Tensor Tensor("crf_1/cond/Merge:0", shape=(?, ?, 260), dtype=float32) is no...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值