图卷积网络中的GCN和GIN学习

最新推荐文章于 2025-06-26 09:50:15 发布
最新推荐文章于 2025-06-26 09:50:15 发布
阅读量1.1w 收藏 27
点赞数 4
CC 4.0 BY-SA版权
分类专栏： 图卷积 文章标签： 神经网络 卷积
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/porwyy/article/details/108812643

目录

文章目录

前言

一、介绍

二、基于谱图的GNN

1.简介

2.基础知识

卷积定理

图的卷积公式

3.GCN网络

GCN1.0

GCN2.0

GCN2.0 ChbeyNet

GCN3.0

三、基于空间的GNN

1.概念

2.图同构网络GIN

总结

前言

卷积神经网络具有平移不变性，而图网络不具有该性质，因此不能直接做卷积操作。

传统的卷积神经网络通过卷积核实现参数共享，且参数的数量由卷积核的大小决定，而图网络无法直接进行卷积，则不能实现参数共享，其参数个数与图像的像素矩阵保持一致。

其次卷积神经网络还具有局部连接性，从而使得每次计算只需要在一个卷积核大小的区域进行，而图网络由于其不规则性，需要对整张图做计算，类似于全连接神经网络，参数数量将会非常大。

通过参数共享和局部连接性我们可以将参数从O(W*H*K*N)  降低到O(m*m*k）  。其中，W、H 和 K 分别为图像的宽、高和通道，N 为隐藏层节点个数，m 为卷积核宽，k 为卷积核个数。

此外，卷积神经网络还具有层次化表达的特点，即其可以通过叠加卷积层得到更深层次的特征。

GNN网络是为了解决实际应用中的非欧式数据而提出来的一种网络。

共分为两种：基于空间的GNN网络和基于谱图的GNN网络。

提示：以下是本篇文章正文内容，下面案例可供参考

一、介绍

以中学学的几何定理为依据，欧式空间（包括二维、三维以上的空间）是指能运用这些定义的理想化空间，多维的欧式空间是在二三维欧式空间的在同规则下的抽象和推广。非欧式空间及不满足这些规律的空间，具有非结构化的特点，例如，在一个曲面上测量一个物体的周长，在凹凸不平的地面上测量两点之间的距离等。欧式图像对应的欧式数据，包括图片、音频、视频。现实生活中的欧式空间有知识图谱、社交网络等。

图神经网络就是为了处理这些欧式空间的数据而提出的。图卷积神经网络需要解决如何对图卷积和对图pooling两大问题。

二、基于谱图的GNN

1.简介

根据卷积定理，将空域上图的卷积，转化为频率上的卷积。

2.基础知识

傅里叶变换

任何一个周期函数都能等价为一系列的正（余）弦函数的和，这就是傅里叶级数。将一个周期函数经过傅里叶变换，也就是将一个时域上的函数表达，转换为其频域和相位的表示。

通过傅里叶变换，可以将低频的声音转换为高频的声音，或者实现在嘈杂环境中的声音频率过滤；又或对图片的傅里叶变换，可以根据变化后数据的频率特征，提取图片中的特征，如低频率的轮廓特征，高频率的细节特征。最后结果的输出只要将这些数据再做一次傅里叶反变换即可。

拉普拉斯变换

拉普拉斯变化是傅里叶变换的一种改进，与傅里叶相比，它能处理信号函数趋向于无穷大及振幅越来越大的情况，它有两种理解方式：一是这种变换引进了衰减因子，使原信号函数趋于平缓稳定；二是其通过增大傅里叶变换的正弦波，从而改变最后输出函数的振幅。

卷积定理

函数卷积的傅里叶变换是函数傅里叶变换的卷积。因此，图在空域上做卷积，可以转换为先对图和卷积核做傅里叶变换，将结果相乘后在做傅里叶逆变换。

图的卷积公式

一般的傅里叶变换公式为：F(\omega )=F(f(t))=\int f(t)e^{-i\omega t}dt

图的傅里叶变换为：\hat{f}=U^{\top }f，表示图信号在对应

最低0.47元/天 解锁文章

200万优质内容无限畅学
图神经网络实战（12）——图同构网络(Graph Isomorphism Network, GIN)
盼小辉丶的博客
06-06 7418
图同构网络 (Graph Isomorphism Network, GIN) 架构受 WL 测试启发而设计的，其表达能力与 WL 测试相近，因此在严格意义上比 GCN、GAT 或 GraphSAGE 更具表达能力。在本节中，将这一架构用于图分类任务，介绍了将节点嵌入融合到图嵌入中的不同方法，GIN 通过连接求和运算符和每个 GIN 层产生图嵌入，其性能明显优于通过 GCN 层获得的经典全局均值池化。最后，我们将两个模型的预测结果进行简单的集成，从而进一步提高了准确率。
图神经网络实战（7）——图卷积网络(Graph Convolutional Network, GCN)详解与实现
盼小辉丶的博客
04-03 1万+
图卷积网络 (Graph Convolutional Network, GCN) 架构由 Kipf 和 Welling 于 2017 年提出，其理念是创建一种适用于图的高效卷积神经网络。在本节中，我们将讨论 Vanilla GNN 架构的局限性，并详细介绍 GCN 的工作原理，通过使用 PyTorch Geometric 在 Cora 和 Facebook Page-Page 数据集上实现 GCN 来验证其性能。
图神经网络GNN学习笔记（4）：图同构网络GIN
软件工程小施同学 的专栏
06-05 3810
原文：GIN: 如何设计最强大的图神经网络图神经网络（Graph Neural Networks，简称GNN）不仅仅局限于对节点进行分类，其中一个最受。
GCN：图卷积神经网络
最新发布
qq_53158516的博客
06-26 689
传统的图像处理方法，如卷积神经网络（CNN）和视觉Transformer，通常假设图像是一个规则的网格或序列结构。然而，现实中的物体往往是不规则的，具有复杂的拓扑关系，例如人可以由头、躯干和四肢构成，彼此之间形成类似图的连接关系。它为GNN在计算机视觉领域的应用开辟了新的方向，使得GNN的研究成果可以迁移到视觉任务中，进一步丰富了计算机视觉的理论体系。ViG Block 就是为了解决这个问题，它通过将图像表示为图结构，并在这个图上进行信息的聚合与更新，提供了比网格或序列更灵活、表达力更强的方式。
NLPGNN：1.使用BERT，ALBERT和GPT2作为tensorflow2.0的层。 2.基于消息传递实现GCN，GAN，GIN和GraphSAGE
02-03
nlpgnn 包装说明 自然语言处理领域当前正在发生巨大变化，近年来，已经提出了许多出色的模型，包括BERT，GPT等。 同时，图形神经网络作为一种精美的设计正在诸如TextGCN和Tensor-TextGCN等自然语言处理领域中不断使用。 该工具箱专用于自然语言处理，希望以最简单的方式实现模型。 关键字：NLP； 神经网络 楷模： 伯特 阿尔伯特 GPT2 TextCNN Bilstm +注意 GCN，GAN 杜松子酒 TextGCN，TextSAGE 示例（有关更多详细信息，请参见测试）： BERT-NER（中英文版） BERT-CRF-NER（中英文版） BERT-CLS
请总结一下图神经网络经典模型，如GCN,GAT,GIN等的优缺点及其算法实现的核心内容...
weixin_42601608的博客
02-14 1864
图神经网络(Graph Neural Network)是一类用于处理图形数据的深度学习模型。下面是一些经典图神经网络模型的概括： GCN (Graph Convolutional Network)： 优点： 具有良好的表示能力，能够学习图形上的局部结构。 在图形分类和图形生成等任务中表现良好。 缺点： 在处理具有复杂邻接关系的图形时可能会出现问题。 在处理大规模图形数据时，需要大量的计算...
【GIN】
weixin_43327910的博客
10-30 8724
GIN
GCN、GIN
weixin_46348136的博客
07-12 2130
仅记录个人学习
基于WHVG和GCN_GIN+的CWRU滚动轴承故障诊断（tensorflow框架）
04-08
资源自带数据、模型，运行main.py可以直接跑出结果。 内容概要：资源里有详细介绍原理。 能学到WHVG和GCN_GIN+的滚动轴承故障诊断流程 阅读建议：过查看注释，修改源码，添加断点，编译等，帮助自己充分理解源码。
图卷积网络（GCN）和池化
gongdiwudu的专栏
08-03 6791
GCN（Graph Convolutional Network）是一种用于图形数据处理和机器学习的神经网络架构。GCN 可以在图形中捕获节点之间的关系，从而能够更好地处理图形数据。GCN 可以沿着图形上的边缘执行滤波器操作，将每个节点的特征向量进行卷积处理，从而改变节点的特征表示。GCN 的应用领域包括社交网络分析、推荐系统、化学和生物信息学等。
图卷积GCN模型学习（CSND追光者整理搜集）.zip
12-27
图卷积网络（Graph Convolutional Networks，简称GCN）是深度学习领域中的一种新兴技术，主要用于处理非欧几里得数据，如图结构数据。GCN是将传统的卷积神经网络思想应用到图数据上的扩展，使得在社交网络、生物网络...
GIN：逼近WL-test的GNN架构
m0_51448653的博客
11-10 1713
在 图卷积网络GCN 中我们已经知道图神经网络在等任务上的作用，但GIN（图同构神经网络）给出了一个对于图嵌入（graph embedding）更强的公式。GIN，图同构神经网络，致力于解决使用GNN的问题，我们知道采用等GNN可以得到本篇博文将关注利用GNN进行的学习。图表征学习要求根据节点属性、边和边的属性（如果有的话）生成一个向量作为图的表征，基于图表征可以做图的预测。基于**图同构网络（Graph Isomorphism Network, GIN）**的图表征网络是当前最经典的图表征学习网络。
How Powerful are Graph Neural Networks？ GIN 图同构网络 ICLR 2019 论文详解
热门推荐
知行合一，止于至善
10-31 2万+
文章目录1 相关介绍Definition 1 ：multiset数学上的单射（injective）2 GNN 怎么和 Weisfeiler-Lehman test 关联起来？2.1 符号定义2.2 Graph Neural Networks2.3 两类任务2.3 Weisfeiler-Lehman test 图同构测试3 WL test 是GNN性能的上限Lemma 24 什么样的GNN 可以和W...
基于消息传递框架的图卷积网络( Pytorch Geometric版)
Wisley的读书笔记分享
04-14 2575
数据格式 参考: 图数据通常成对的包含两部分信息，即以边(edge)的形式表示的关系(relation) 和 以节点(node)的形式表示的对象，在pytorch_geometric中，对于数据的形式主要包含以下几个属性 x 节点特征矩阵，形状为[num_nodes, num_node_features] 一、GCN 普通的图卷积算子主要来源于“Semi-supervised Classification with Graph Convolutional Networks” ,笔者在深入浅出了解GCN原
GCN演变及改进整理
qq_60272314的博客
09-25 5508
目录 一.演变 1.Spectral CNN 2.Chebyshev谱CNN（ChebNet） 3.CayleyNet 4.一阶ChebNet（1stChebNet）-GCN 二.GCN的改进 1.邻接矩阵的探索 Adaptive Graph Convolution Network (AGCN) Dual Graph Convolutional Network(DGCN) 2. 空间域的GCNs（ConvGNNs） Neural Network for Graphs (NN4G..
【CS224W】(task9)图神经网络的表示能力(GIN图同构模型)
发现问题，并解决问题，批判性思维
03-04 2832
GIN图同构网络模型的构建 - 能实现判断图同构性的图神经网络需要满足，只在两个节点自身标签一样且它们的邻接节点一样时，图神经网络将这两个节点映射到相同的表征，即映射是单射性的。 - **可重复集合/多重集（Multisets）：元素可重复的集合，元素在集合中没有顺序关系** 。一个节点的所有邻接节点是一个可重复集合，一个节点可以有重复的邻接节点，邻接节点没有顺序关系。因此GIN模型中生成节点表征的方法遵循WL Test算法更新节点标签的过程。 **在生成节点的表征后仍需要执行图池化（或称为图读出）操作得
【GNN】第八章 基于GIN的图表征学习
m0_59247846的博客
07-05 7082
本文参考自datawhale2021.6学习：图神经网络 【GNN】第一章 图论基础 【GNN】第二章 PyG中的图与图数据集 【GNN】第三章 消息传递范式与PyG的MessagePassing基类 【GNN】第四章 节点表征学习与节点分类任务（理论+调包实操） 【GNN】第五章 构造数据完全存于内存的数据集类InMemoryDataset 【GNN】第六章 边预测任务 本章目录前言1 WL-test1.1 同构图 Graph Isomorphism1.2 多重集 Multiset1.3 1-dimens
【论文阅读】Multiplex Graph Neural Network for Extractive Text Summarization
BUFANG_XF的博客
05-18 928
Multiplex Graph Neural Network for Extractive Text Summarization 用于提取文本总结的多路复用图神经网络 摘要 提取文本摘要旨在从给定文档中提取最具代表性的句子作为其摘要。为了从长文本文档中提取良好的摘要，句子嵌入起着重要作用。最近的研究利用图神经网络捕获句子间关系（例如话语图），以学习上下文句子嵌入。然而，这些方法既不考虑多种类型的inter-sentential (句际）关系（例如语义相似性和自然联系），也不建模句内关系（例如单词之间的语义和
【intro】Graph Isomorphism Network（GIN）
Karen_Yu_的博客
05-09 5720
图神经网络(gnn)是一种有效的图表示学习框架。gnn采用邻域聚合方案，通过递归聚合和变换相邻节点的表示向量来计算节点的表示向量。已经提出了许多GNN变体，并在节点和图分类任务上取得了最先进的结果。然而，尽管gnn彻底改变了图表示学习，但人们对其表示特性和局限性的理解有限。->一个理论框架，用来分析GNN捕获不同图结构的能力。
图卷积网络（GCN）发展历程
06-09
3. 图卷积神经网络（GCN）：为了解决稀疏性和计算效率问题，Kipf和Welling在2017年提出了一种名为GCN的方法，它使用邻接矩阵的近似值进行卷积操作，从而大大减少计算量。GCN是一种基于局部邻域的方法，它通过邻居...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值