【无标题】Pytorch 中范数求解遇到的问题之RuntimeError的解决办法，和新的范数求解语法规则

已于 2022-04-25 20:50:10 修改
阅读量2.1k 收藏 2
点赞数 4
CC 4.0 BY-SA版权
分类专栏： pytorch范数求解 文章标签： python pytorch
于 2022-04-25 20:37:19 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gtwaaaa/article/details/124413713
在学习PyTorch时遇到计算范数的问题，错误提示要求输入数据类型必须是浮点型或复数型。博客介绍了如何解决这个问题，强调输入张量的数据类型必须是浮点或复数，并提供了范数计算的阶数选择和维度指定方法。通过示例展示了正确计算范数的代码，有助于理解新语法规则。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

    今天，在学习范数求解的章节时发现一个问题，用视频中范数求解的语法规则输入后会出现RuntimeError: norm(): input dtype should be either floating point or complex dtypes. Got Long instead. 这样的错误提示，下面提供解决办法。

    我搜索了一些资料后发现很多中求解语法，一一试验后都不正确，在查询了系统注释后明白是语法规则发生了变化。

如下面类定义所示：

其参数包括: input, p, dim, keepdim, out, dtype 。

input：输入张量。它的数据类型必须是浮点型或复

最低0.47元/天 解锁文章

200万优质内容无限畅学
指南 3：在 PyTorch 中调试
t631791611的博客
07-30 200
然而，在某些情况下，PyTorch 不会抛出错误，因为未对齐的维度（不幸的是）具有相同的大小。如果你接受输入x尺寸的B \times d_{in}（B是批量维度），并且在您的超参数设置中， B=d_{in}，您最终可能会在错误的维度上执行矩阵乘法，而 PyTorch 未检测到它。在上面的语言示例中，模型会认为“a”比“o”更接近“b”，尽管“a”和“o”都是人声，并且“a”和“b”的接近程度并不相同。如果您定义类似 的参数，您的模型将不会在 GPU 上注册该参数，因为“.to”运算符会创建一个新的张量。
【问题记录】RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn
yokon的博客
03-25 835
进行了修改，能够解决报错问题，但是能够从评论区看出该方法治标不治本，并且存在漏洞，在本实验中表现为初轮iteration损失巨巨巨高（高达97…，而正常损失之介于0…经调试发现，在传播过程中BCE在网络返回值与标签值均为内存地址，而BCL为Tensor张量可见。在对神经网络的损失函数进行修改时遇到标题中的问题。
让人无语的“RuntimeError: probability tensor contains either inf, nan or element ＜ 0 “
xiexiecn的专栏
03-27 6086
上天眷顾，错误变了，不再是"RuntimeError: probability tensor contains either inf, nan or element < 0 "，出来clip ViT-B-32.pt权重hash不match，这个也是比较奇怪，经过轮番轰炸的print debug之后，总结出规律就是，下面这个代码不工作，两次输出的hash不一样。吐槽一下，现在安装torch老是会遇到什么hash不匹配之类的，需要加--no-cache-dir，有时候还不管用，折腾死了，不知道世界咋了。
probability tensor contains either `inf`, `nan` or element ＜ 0
陈嘿萌的博客
06-23 1199
摘要 在安装Qwen大模型时遇到CUDA报错问题，表现为概率张量包含非法值（inf/nan/负数），且不同4090显卡表现不一致。尝试官方解决方案（修改模型加载参数、变换transformers版本、调整Pytorch版本）均无效。最终发现问题源于通过HF镜像下载的模型权重不完整或损坏。改用modelscope平台重新下载模型（示例使用Qwen2.5-VL-3B-Instruct），并调整模型加载路径后问题解决。建议国内用户优先使用modelscope替代HF镜像获取模型权重。
【torch报错处理】RuntimeError: probability tensor contains either `inf`, `nan` or element ＜ 0
weixin_44839047的博客
10-03 5880
RuntimeError: probability tensor contains either `inf`, `nan` or element < 0 报错解决，torch版本
ChatGLM推理报错RuntimeError: probability tensor contains either `inf`, `nan` or element ＜ 0
qq-1343330453
10-12 9358
ChatGLM推理报错RuntimeError: probability tensor contains either `inf`, `nan` or element < 0
RuntimeError: probability tensor contains either `inf`, `nan` or element ＜ 0
h1773655323的博客
04-22 3844
这个问题卡了有一天的时间，后来，在对于torch的每个版本进行测试后，发现torch 2.2会出现这个问题，将版本降到torch 2.1.0就可以解决。
PyTorch报错RuntimeError: CUDA error: out of memory的显存优化
shejizuopin的博客
05-28 979
本文系统介绍了PyTorch中常见CUDA显存不足问题的解决方案。文章首先分析了显存溢出的四大原因：批量过大、模型复杂、显存碎片化及数据类型不当。随后提出包含8种具体措施的优化矩阵，涵盖基础策略（批量调整、梯度累积）、模型优化（剪枝量化、轻量模型）、高级管理（混合精度、显存监控）和数据优化（DataLoader配置、输入尺寸调整）。每种方法均附代码示例和性能对比数据，如混合精度训练可节省50%显存并提升速度10-20%。最后提供验证流程和常见问题解答，建议优化路径为：先调批量/梯度累积，再考虑模型轻量化，最
PyTorch陷阱与解决方案：张量操作中的常见问题
[PyTorch陷阱与解决方案：张量操作中的常见问题](https://discuss.pytorch.org/uploads/default/optimized/3X/4/8/48b9d34b053f174e57572726f01401b95e1f1b67_2_1024x446.png) # 1. PyTorch张量操作概述 在深度学习...
【PyTorch图像分割异常处理】：常见问题快速解决方案
[【PyTorch图像分割异常处理】：常见问题快速解决方案](https://img-blog.csdnimg.cn/20200823103342106.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0...
RuntimeError: norm(): input dtype should be either floating point or complex dtypes. Got Long instea
qq_44961737的博客
06-19 3010
# RuntimeError: norm(): input dtype should be either floating point or complex dtypes. Got Long instead.
RuntimeError: norm(): input dtype should be either floating point or complex. Got Long instead
weixin_45582028的博客
11-06 365
问题涉及到了使用torch进行处理tensor时，数据类型不匹配，需要转化成float格式。讲该变量的数值类型进行转换即可。
RuntimeError: mean(): input dtype should be either floating point or complex dtypes. Got Long instea
THE FUTURE's blog
04-18 2594
pytorch运行时预报报错： RuntimeError: mean(): input dtype should be either floating point or complex dtypes. Got Long instead. 运行代码如下： A=torch.arange(20,dtype=torch.float32).reshape(5,4) A.mean(),A.sum()/A.numel() 报错如下： 修改方法：将axia=0,修改为dim=0 参考文章： https://blo
RuntimeError: mean(): input dtype should be either floating point or complex dtypes.Got Long instead
booze_的博客
06-27 2825
运行代码： 报错 出问题的代码： 修改数据类型 再次运行：
AnomalyGPT缺陷检测报错【probability tensor contains either `inf`, `nan` element ＜ 0】
weixin_42332746的博客
09-11 752
在使用AnomalyGPT进行缺陷检测的过程中，对于有些缺陷图片，会显示erro和报错Error in model generation: probability tensor contains either `inf`, `nan` or element < 0。web_demo.py中generate转定义，注释do_sample=True。
RuntimeError: expected scalar type ComplexDouble but found Float
qq_44050612的博客
05-09 483
要解决 RuntimeError: expected scalar type ComplexDouble but found Float 错误，首先定位错误发生的位置，检查涉及复数操作的张量类型。如果输入张量是浮点型但需要复数型，显式转换为复数类型，例如使用 input_tensor.to(torch.complex64)。确保使用的函数或层支持复数输入，如FFT操作。对于混合类型运算，将实数张量广播为复数。检查模型参数类型，确保复数参数初始化正确。在数据预处理阶段直接生成复数数据，并验证整体数据流，确保从
RuntimeError: invalid multinomial distribution (encountering probability entry ＜ 0)
crystallilili的博客
11-07 1822
在使用torch.multinomial()对rnn网络输出值进行选择时，当学习率高于0.000001时，运行报错“RuntimeError: invalid multinomial distribution (encountering probability entry < 0)
ChatGLM + PEFT 进行finetune
消极的人永远是对的，积极的人选择勇往直前
05-18 3549
ChatGLM + PEFT 进行finetune
File "<stdin>", line 1, in <module> File "D:\anaconda3\envs\env_pytorch_cu126py39\lib\site-packages\torch\functional.py", line 1827, in norm return torch.linalg.vector_norm( RuntimeError: linalg.vector_norm: Expected a floating point or complex tensor as input. Got Long
最新发布
07-07
我们正在处理一个PyTorch错误：RuntimeError: linalg....[^4]: 在Python编程中，当您遇到类似于"RuntimeError: 预期的标量类型为Half，但找到了Float"的错误时，这意味着您的代码中存在一些与数据类型不匹配的问题。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值