算力-计算量，关于TOPS和FLOPS，及FLOPs

已于 2025-04-11 09:25:04 修改
阅读量4.2w 收藏 124
点赞数 37
CC 4.0 BY-SA版权
分类专栏： 人工智能？ 深度学习 文章标签： 计算机视觉 人工智能 TOPS
于 2024-01-06 14:22:37 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zaibeijixing/article/details/135425642
本文详细解释了芯片算力单位TOPS和FLOPS的区别，以及与FLOPs的关系，同时涵盖了模型算力单位FLOPs的含义。文章还提供了不同单位之间的量级转换，并以Nvidia-A100/H100为例说明。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zaibeijixing/article/details/135425642
————————————————

目录

一、易混淆的三个点

二、芯片算力单位详解

四、模型算力单位详解 

五、算力单位量级变换

六、计算机存储单位换算

七、科学计算单位换算

一、易混淆的三个点

关于TOPS和FLOPS，及FLOPs，这里有3个易混淆的点。

1、最大的混淆点，上述三个名词是两种东西，注意“S/s”的大小写。TOPS和FLOPS指的是每秒的计算量，算是速度方面的，用在芯片算力性能上。FLOPs指的是深度学习模型自身的计算量，算是体量方面的，用在深度学习模型本身参数计算量上。

2、针对算力速度方面的TOPS和FLOPS，其中OPS指的是每秒处理次数，但通常是默认对INT8整型数的处理次数（INT8省略不写），加上FL后FLOPS指的是对FP32浮点数的处理次数。

3、仍然是针对算力速度方面的TOPS和FLOPS，这里的T指的是量级（Tera ，万亿，10^12），同理TFLOPS专门指每秒对浮点数处理的达到多少万亿次数。

二、芯片算力单位详解

通过缩写就能发现其中的奥妙。

        OPS (operations per second)  每秒处理次数

   FLOPS (Floating point number operations per second) 每秒处理浮点数次数

     TOPS (Tera operations per second) 每秒处理的万亿次数

TFLOPS (Tera Floating point number operations per second) 每秒处理浮点数的万亿次数

 FLOPs （Floating point number operations）模型参数的处理次数

芯片速度类基础单位OPS(operations per second) 每秒处理次数，通俗是对INT8类型的操作次数，整型默认省略。
FLOPSFloating point number operations per second是指浮点数每秒处理的次数，通常是FP32，浮点着重强调。

量级单位

(万亿次)

TOPSTera operations per second每秒可以处理的整型运算的万亿次数（10^12次）
TFLOPSTera Floating point number operations per second每秒对浮点数处理的达到多少万亿次数

下图为nvidia-A100/H100部分算力信息，可对比TOPS/TFLOPS区别。 

四、模型算力单位详解 

模型体量类FLOPsFloating point number operations模型参数的处理次数。衡量模型参数计算量

以基础的分类卷积神经网络为例：

AlexNet对于AlexNet处理224*224的图像，需要1.4G FLOPS
ResNet-152对于224*224的图像，ResNet-152需要22.6G FLOPS

五、算力单位量级变换

MOPS （Million Operation Per Second）  一百万次（10^6）   兆；百万

GOPS （Giga Operations Per Second）  十亿次     （10^9）   千兆；十亿（billion，B）

TOPS （Tera Operations Per Second）  一万亿次   （10^12） 兆兆

1 MOPS = 10^6 FLOPS一个MFLOPS（megaFLOPS）等于每秒一百万  （=10^6）次的浮点运算，
1 GOPS = 10^9 FLOPS

一个GFLOPS（gigaFLOPS）等于每秒十亿        （=10^9）次的浮点运算，

十亿（部分地方可能会用B，billion，十亿）

1 TOPS = 10^12 FLOPS一个TFLOPS（teraFLOPS）等于每秒一万亿      （=10^12）次的浮点运算，(1太拉)
注意：这个地方有时候加不加FL比较含糊，很多厂家和个人有时候没有专门写明，一般先关注量级即可

六、计算机存储单位换算

1Byte=8bit 　　
1KB=1024Byte(字节)=8*1024bit 　　
1MB=1024KB 　　
1GB=1024MB 　　
1TB=1024GB    tera(梯）单位标示：T/TB 　　

七、科学计算单位换算

10^15拍[它]Ppeta
10^12太[拉]（万亿）Tteratrillion 万亿
10^9吉[咖]（十亿）Ggigabillion 十亿
10^6兆（百万）Mmegamillion 百万
10^3千kkilo
智算时代的力量：TOPS、DMIPS与FLOPS性能指标全解
weixin_43199439的博客
09-03 3799
KFLOPS-kilo Floating Point Operations Per Second（千次浮点运算每秒） MFLOPS-Mega Floating Point Operations Per Second（百万次浮点运算每秒） GFLOPS-Giga Floating Point Operations Per Second（十亿次浮点运算每秒） TFLOPS-Tera Floating Point Operations Per Second（万亿次浮点运算每秒） PFLOPS-Peta Float
Yolov5 计算访存量MAC与计算量FLOPS
m0_46093829的博客
12-02 3911
Yolov5 计算访存量MAC与计算量FLOPS
RAG与MCP技术对比分析：深入探讨两者差异与优势！
2401_84204207的博客
04-20 1070
通过增强生成结果的准确性和专业性通过协调 LLM 与外部工具/数据源的交互，支持复杂操作流程检索模块（如向量数据库）获取外部信息 → 生成模块（LLM）融合检索结果生成内容 [1] [9]定义标准协议规范 LLM 的输入输出上下文，实现多工具调用、动态数据路由和状态管理 [13] [21]依赖外部结构化/非结构化知识库（如文档、数据库）依赖预定义的工具集（API、函数）及上下文路由规则医疗问答（检索最新论文+患者病历生成诊断建议）[15] [34]
常用显卡算力对比
热门推荐
qq_55736201的博客
05-16 6万+
TFLOPS：指的是每秒钟可以执行的浮点运算次数，它代表着计算机在处理科学计算、机器学习等任务时的处理能力。TFLOPS的单位是万亿次每秒（trillion floating point operations per second)。一般是指单精度性能FP32。TOPS：指的是每秒钟可以执行的整数运算次数，它代表着计算机在处理图像、音频等任务时的处理能力。TOPS的单位是万亿次每秒（trillion operations per second）。一般是指整数运算能力。
一文读懂算力：从基础到应用的全解析
最新发布
no2454410的博客
07-09 929
摘要：算力是计算设备处理数据的能力，是衡量计算效率的核心指标。其衡量单位包括GOPS、GFLOPS、TFLOPS等，按规模可分为边缘算力、数据中心算力和超算算力，按用途分为通用算力和专用算力。随着AI和大数据的发展，算力需求呈现爆炸式增长，并趋向分布式、网络化和绿色化。在大模型中，算力对训练（GPU集群并行计算）和推理（实时响应）至关重要。算力作为数字时代的"电力"，是激活数据价值、推动科技发展的底层支撑。
AI芯片算力TOPS：定义、计算及实际应用解析
顺其自然~专栏
02-25 1850
TOPS，全称为Tera Operations Per Second，是衡量一枚芯片每秒能够执行多少次基本操作的单位。一“次操作”通常指一次加法或乘法，对应大多数AI计算场景中的基本运算（如MAU中的乘法累加操作）。在实际应用中，TOPS往往用来衡量神经网络处理单元（NPU）的算力。计算TOPS的方法通常与芯片的时钟频率和乘法累加单元（MAU）的数量有关。
FLOPS、FLOP/s、TOPS概念
Swift's Blog
06-29 803
这个模型需要 1 TFLOP/s 的计算量，GPU 的峰值性能是 10 TFLOPS”是常见的术语，但它们有明确的区别和应用场景。“这个模型需要 1 TFLOPS”在计算性能和硬件指标中，
MACC与TOPS（FLOPS）互相换算
01-20
最近在做深度学习模型在嵌入式设备上的速率评估，现阶段一般计算深度模型的计算力的单位一般是MACC（Multiply–accumulate），一般评估嵌入式设备的单位是TOPS（Tera Operations Per Second），中文网站很少有介绍两者的关系。在查阅资料后基本可确定是tops=TMACC×2的关系。 具体可看： https://www.nxp.com/files-static/training_pdf/29147_COLDFIRE_CORES_WBT.pdf https://github.com/sovrasov/flops-counter.pytorch/issues/16
FLOPS和TOPS的区别 以及 算力的计算方法
NCU_wander的博客
11-18 8264
AI芯片通过设计特殊的计算单元，实现了超高的操作数量。例如： 以GTX680为例， 单核一个时钟周期单精度计算次数为两次，处理核个数 为1536， 主频为1006MHZ，那他的计算能力的峰值P 为：P = 2 × 1536 × 1006MHZ = 3.09TFLOPS，1T为1兆，也就是说，GTX680每秒可以进行超过3兆次的单精度运算。AI芯片算力又是算力中专门的一个领域，低标准下的高算力是比不上高标准下的低算力的，比如INT4标准下的100TOPS算力是要远弱于INT8标准下的90TOPS的。
FLOPS、TOPS和FLOPs的区别
机器学习-深度学习-图像处理-opencv-段子
05-07 4万+
FLOPS，即每秒浮点运算次数, 是每秒所执行的浮点运算次数（Floating-point operations per second；缩写：FLOPS）的简称，被用来评估电脑效能. FLOPs：注意s小写，是floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量, 可以用来衡量算法/模型的复杂度。 常用框架的复杂度 TOPS(Tera Operatio...
51单片机RAM区域的划分
u010980705的博客
10-18 7629
前边介绍单片机资源的时候，我们提到过 STC89C52 共有 512 字节的 RAM，是用来保存数据的，比如我们定义的变量都是直接存在 RAM 里边的。但是单片机的这 512 字节的 RAM在地位上并不都是平等的，而是分块的，块与块之间在物理结构和用法上都是有区别的，因此我们在使用的时候，也要注意一些问题。 51 单片机的 RAM 分为两个部分，一块是片内 RAM，一块是片外 RAM。标
0018-极智AI-解读输入图片BatchSize和分辨率对模型计算量和参数量的影响-个人笔记
09-01
在人工智能领域，尤其是在深度学习模型的训练和部署过程中，模型参数量和计算量是衡量模型性能的两个关键因素。模型参数量指的是模型中可学习参数的总数，它影响了模型对数据的表示能力，而计算量则与模型执行时间...
算力理解MIPS/DMIPS/MFLOPS/TOPS
houxiaoni01的博客
08-26 1万+
在处理向量计算的情况下，同一个向量的不同维度之间的计算是相互独立的。
TOPS和FLOPS的区别？
06-21
Tops (Teraflops) 和 FLOPS (Floating Point Operations Per Second) 都是用来衡量计算机处理器性能的指标，但它们关注的角度不同。 1. Teraflops: 这是计算能力的一个单位，通常用于衡量每秒执行的万亿次浮点运算...
算力单位tops什么意思
顺其自然~专栏
02-25 1561
TOPS表示的是计算设备每秒能够执行的基本操作次数，这里的“基本操作”通常指的是简单的算术运算，如加法、乘法等。具体来说，1TOPS代表处理器每秒钟可进行一万亿次（10^12）操作。
FLOPS和吞吐率
huang_yx005的博客
12-01 4305
throughput: 吞吐率 FLOPS(Float Operations Per Second):每秒浮点运算量 吞吐率就如同你家里的水管, 每秒可以流出多少立方的水 每秒浮点计算数(flops)也是衡量吞吐率的一个单位, 通过折算到具体的浮点操作数量上. 假设有m * n的矩阵A, 和n * o的矩阵B, 则最终会形成m * o的矩阵C (C = A * B)
深度学习基础（四）——计算量（FLOPs）、参数量（Params）、计算速度（FLOPS/TOPS)）
weixin_45377542的博客
04-30 2713
FLOPs，全称为Floating Point Operations, (s为复数缩写），浮点运算数，指模型完成一次前向传播所需的浮点运算次数，可以理解为计算量（模型的时间复杂度），用来衡量算法/模型的复杂度。FLOPS，全称为Floating Point Operations Per Sencond，表示设别每秒能完成的浮点运算次数，可以理解为计算速度。若模型使用int8量化，需优先匹配TOPS（如AI芯片），浮点模型（FP16/32）需匹配FLOPS（如GPU），则理论耗时约为0.1秒。
关于 FLOPS、FLOPs、参数量的相关计算
乄洛尘
03-30 1万+
最近找到一些计算FLOPs的文章，奈何全是水文，讲都讲不清楚，完完全全的究极缝合怪。因此，这里准备彻底搞懂。
显卡tops算力表
03-08
### 显卡 TOPS 算力概述 显卡的TOPS（Tera Operations Per Second，万亿次操作每秒）是一个衡量其运算能力的重要指标。这一参数对于涉及大量数据处理的应用场景尤为重要，比如人工智能训练、高性能计算以及大规模图形渲染等应用领域[^2]。 在这些应用场景下，TOPS反映了设备每秒钟可以完成多少亿次的操作数。更高的TOPS意味着更强的数据吞吐能力和更快的任务处理速度。然而值得注意的是，除了理论上的峰值性能外，实际表现还会受到诸如内存带宽、架构设计等因素的影响。 ### 不同品牌显卡 TOPS 对比 市场上主要存在NVIDIA、AMD两大厂商提供高端显卡产品。以下是两家公司部分代表性产品的TOPS对比： #### NVIDIA GeForce RTX系列 | 型号 | FP32 TFLOPS (Tensor Cores) | | --- | --------------------------- | | RTX 4090 | ~1,110 | | RTX 4080 | ~780 | #### AMD Radeon RX系列 | 型号 | FP32 TFLOPS | | --------- | ------------------------- | | RX 7900 XTX | ~61.4 | | RX 7900 XT | ~52 | 上述表格展示了不同型号显卡之间的浮点运算能力差异，其中FP32 TFLOPS是衡量通用计算任务的一个常用标准。 需要注意的是，尽管这里提供了某些具体型号的信息，但由于技术更新迅速，建议查阅最新的官方文档获取最准确的产品规格说明。 ```python import pandas as pd nvidia_data = {'Model': ['RTX 4090', 'RTX 4080'], 'FP32 TFLOPS': [1110, 780]} amd_data = {'Model': ['RX 7900 XTX', 'RX 7900 XT'], 'FP32 TFLOPS': [61.4, 52]} df_nvidia = pd.DataFrame(nvidia_data) df_amd = pd.DataFrame(amd_data) print(df_nvidia) print("\n") print(df_amd) ```
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值