DMGI:Unsupervised Attributed Multiplex Network Embedding
[1911.06750] Unsupervised Attributed Multiplex Network Embedding (arxiv.org)
目录
Abstract
1 Introduction
2 DGI
3 Deep Multiplex Graph Infomax: DMGI
特定关系类型的节点嵌入
Joint Modeling and Consensus Regularization
Extension to Semi-Supervised Learning
Abstract
多路网络中的节点通过多种类型的关系连接。然而,大多数现有的网络嵌入方法都假设节点之间只存在一种类型的关系。即使对于那些考虑网络多样性的人来说,他们也忽略了节点属性,依靠节点标签进行训练,并且无法对图的全局属性进行建模。
提出DMGI,该方法最大化了图局部补丁之间的互信息,以及整个图的全局表示。设计了一种系统的方法来联合集成来自多个图的节点嵌入,引入1)共识正则化框架,最小化特定关系类型节点嵌入之间的分歧,以及2)通用判别器,区分真实样本,而不考虑关系类型。注意机制推断每个关系类型的重要性,因此可以用于过滤不必要的关系类型作为预处理步骤。
1 Introduction
很多现有的图嵌入方法假设节点之间只有一种类型的关系,然而在现实事件中,节点间关系是多路的。
虽然不同类型的关系可以独立形成不同的图,但这些图是相互关联的,因此可以在各种下游任务中相互帮助。图中的节点可能包含属性信息,这在许多应用中起着重要作用。
首先,以前的方法专注于多图的集成,但忽略了节点属性。其次,即使对于那些考虑节点属性的人,他们需要节点标签进行训练。然而,由于节点标记通常既昂贵又耗时,如果一种方法在没有任何标记的情况下也能显示出具有竞争力的性能,那将是最好的。第三,这些方法中的大多数都无法对图的全局属性进行建模,因为它们是基于基于随机游动的skip-gram模型或图卷积网络(GCN) ,这两种方法都被认为是捕获局部图结构的有效方法。更准确地说,图中“接近”的节点(即在相同的上下文窗口或邻域内)被训练为具有相似的表示,而距离较远的节点即使在结构上相似也没有相似的表示。
考虑到上述限制,作者提出了一种简单而有效的无监督方法来嵌入属性复用网络。方法的核心构建块是Deep Graph Infomax (DGI) ,旨在学习一个节点编码器,该编码器可以最大化图的局部补丁之间的相互信息,以及整个图的全局表示。DGI是提出任务的主要方法,因为它:1)通过GCN自然集成节点属性;2)以完全无监督的方式训练;3)捕获整个图的全局属性;但是将为嵌入单一网络而设计的DGI应用于考虑多种关系类型之间的相互作用以及每种关系类型的重要性的多路网络是具有挑战性的。
因此,提出了一种系统的方法来联合整合来自多种类型节点之间关系的嵌入,从而使它们能够相互帮助,学习到对各种下游任务有用的高质量嵌入。更准确地说,作者引入了共识正则化框架,该框架最大限度地减少了关系类型特定节点嵌入之间的分歧,并引入了通用判别器,该判别器区分真实样本,无论关系类型如何,即基础真值“(图级总结,局部补丁)”对。此外,通过注意机制,可以推断出每个关系类型在生成共识节点嵌入中的重要性,这可以用于过滤不必要的关系类型作为预处理步骤。
2 DGI
DGI旨在学习每个节点的低维向量表示,使得图级(全局)汇总表示s与局部patch表示{h1; h2;… hn}之间的平均互信息(MI)最大。每个hi都被期望捕获整个图的全局属性.
尽管它很有效,但DGI是为单属性网络设计的,因此将其应用于多路网络并不直接。作为DGI在复用属性网络中的一种朴素扩展,我们可以将DGI独立应用于由每种关系类型组成的每个图,然后计算从每个图中获得的嵌入的平均值,从而得到最终的节点表示。然而,我们认为这不能模拟网络的多样性,因为来自不同关系类型的节点嵌入之间的相互作用没有被捕获。
3 Deep Multiplex Graph Infomax: DMGI

作者提出了一种无监督的方法,为带有属性的多路网络生成嵌入。作者先描述如何独立于建模属于每种关系类型的每个图,然后解释了如何联合集成它们以最终获得共识节点嵌入矩阵。
(1)先针对某种特定关系r的图G(r),生成G(r)中节点的特定关系类型的节点嵌入矩阵H(r),这个节点嵌入矩阵中每个节点嵌入h(r)i求平均得到图级的嵌入s(r),给定关系类型特定节点嵌入矩阵H(r)及其图级汇总表示s(r),计算关系类型特定交叉熵,使正例和s(r相似性大,负例和s(r)间相似性小,从而使节点嵌入矩阵捕获全局的图级信息;
(2)然后为了综合不同关系r下H(r)的交互。引入共识嵌入矩阵 ,每个特定关系类型的节点嵌入矩阵H(r)都可以在其上达成一致。引入了共识正则化框架:1)一个正则化器最小化原始节点嵌入集{H(r)|
}与共识嵌入Z之间的不一致;2)另一个正则化器最大化损坏节点
和共识嵌入节点Z之间的不一致。因此获得最终的共识嵌入矩阵,即时节点的最终嵌入矩阵。
特定关系类型的节点嵌入
对于每个关系类型,引入一个特定于关系类型的节点编码器gr:生成G(r)中节点的特定关系类型的节点嵌入矩阵H(r),为n×d维的。encoder是单层的GCN:

和传统的GCN不同的是,为自环引入一个权重w,w越大,表示该节点本身在生成其嵌入中起着更重要的作用,这反过来又降低了其相邻节点的重要性。
计算图级的总结表示s(r),它总结了图G (r)的全局内容:

h(r)i表示矩阵H(r)的第i行向量.
给定关系类型特定节点嵌入矩阵H(r)及其图级汇总表示s(r),计算关系类型特定交叉熵,从而使节点嵌入矩阵捕获全局的图级信息:


为了生成负节点嵌入,逐行方式对原始属性矩阵进行交换的方式,然后再对属性重新使用encoder gr.其中,对于每个关系r,M矩阵都是相同的,目的是学习通用判别器,无论关系类型如何,都能够将真对评分高于负对。
Joint Modeling and Consensus Regularization
通过上一步骤,得到了关系类型特定的节点嵌入矩阵阵H(r),它捕获了G (r)中的全局信息。然而,由于每个阵H(r)是针对每个r独立训练的,这些嵌入矩阵只包含关于每种关系类型的相关信息,因此无法利用网络的关系多重性,使用它们的交互.
因此作者引入共识嵌入矩阵 ,每个特定关系类型的节点嵌入矩阵H(r)都可以在其上达成一致。引入了共识正则化框架:1)一个正则化器最小化原始节点嵌入集{H(r)|
}与共识嵌入Z之间的不一致;2)另一个正则化器最大化损坏节点
和共识嵌入节点Z之间的不一致。


其中Q是一个聚合函数,它将来自多种关系类型的一组节点嵌入矩阵组合为单个嵌入矩阵,,为了简单起见,Q为平均池化,当然也可以引入注意力机制,为不同关系分配不同权重,表示这种类型关系的重要性。
Extension to Semi-Supervised Learning
如果有些节点有标签,还可以引入半监督学习,对这些有标签的节点单独计算下面的交叉熵损失:

最终损失函数变为

相关文章:
DMGI:Unsupervised Attributed Multiplex Network Embedding
[1911.06750] Unsupervised Attributed Multiplex Network Embedding (arxiv.org) 目录 Abstract 1 Introduction 2 DGI 3 Deep Multiplex Graph Infomax: DMGI 特定关系类型的节点嵌入 Joint Modeling and Consensus Regularization Extension to Semi-Supervised Lea…...
C++基本介绍
文章目录 🥭1.C基本介绍🧂1.1 C是什么🧂1.2 C发展史 🍒2. C的优势🥔2.1 语言的使用广泛度🥔2.2 C的应用领域 🫒3. C学习计划 🥭1.C基本介绍 🧂1.1 C是什么 C是一种通用…...
如何理解工业互联网与智能制造,怎么共建智慧工厂?
第六届数字中国建设峰会26日在福州开幕,在这个数字化新技术的变革风口,企业如何把握机遇,借工业互联网和智能制造实现智慧工厂建设? 探讨三个问题: 什么是工业互联网、智能制造、智慧工厂;它们三者之间的…...
主机访问不到虚拟机(centos7)web服务的解决办法
目录 一、背景 二、解决办法 2.1、配置虚拟机防火墙 2.2、修改虚拟机网络编辑器 一、背景 主机可以访问外网,虚拟机使用命令:curl http://网址,可以访问到web服务 ,主机使用http://网址,访问不到虚拟机(…...
第四章 ActiveMQ与SpringBoot集成——ActiveMQ笔记(动力节点)
第四章 ActiveMQ 与 SpringBoot 集成 4-1 ActiveMQ 与 SpringBoot 集成集成配置 1、加载 spring boot 的 activeMQ 的依赖 <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter</artifactId> </de…...
Halcon 算子 select_shape_std 和 select_shape_xld区别
文章目录 1 select_shape_std 算子介绍2 select_shape_xld算子介绍3 select_shape_std 和 select_shape_xld区别4 Halcon 算子的特征 Features 列表介绍1 select_shape_std 算子介绍 select_shape_std (Operator) Name select_shape_std — Select regions of a given shape.Si…...
【Java基础】匿名内部类
🎊专栏【Java基础】 🍔喜欢的诗句:更喜岷山千里雪 三军过后尽开颜。 🎆音乐分享【The truth that you leave】 大一同学小吉,欢迎并且感谢大家指出我的问题🥰 目录 🎁什么是匿名内部类 &#x…...
基于Freertos的ESP-IDF开发——6.使用DHT1温湿度传感器
基于Freertos的ESP-IDF开发——6.使用DHT1温湿度传感器 0. 前言1. DHT11驱动原理2. 完整代码3. 演示效果4. 其他FreeRtos文章 0. 前言 开发环境:ESP-IDF 4.3 操作系统:Windows10 专业版 开发板:自制的ESP32-WROOM-32E 准备一个DHT11温湿度传…...
C++——模板初阶
文章目录 一.泛型编程二.函数模板1.函数模板的概念2.函数模板的格式3.函数模板的原理4.函数模板的实例化(1)隐式实例化(2)显式实例化 5.模板参数的匹配原 三.类模板1.类模板的定义格式2.类模板的实例化 前言: 本章我们…...
【TOOLS: Linux与windows及linux与linux之间文件传输常用方法及命令】
文章目录 1.1.1 Windows和VirtualBox(Ubuntu)之间文件穿传输方法1.1.2 SCP 文件传输方法1.1.3 FTP 文件传输方法 1.1.1 Windows和VirtualBox(Ubuntu)之间文件穿传输方法 1)设置 virtualbox 中的共享文件夹,用户可以在windows某个盘下创建自己的共享文件…...
【博览群书】《实战大数据》——属于我的第一本大数据图书
文章目录 前言简介目录其他 前言 Hello家人们,博主前不久参加了CSDN图书馆和机械工业出版社联合举办的图书类活动,很荣幸在活动中获得了属于自己的第一本大数据图书,《实战大数据—— 分布式大数据分析处理系统开发与应用》。作为大数据专业…...
【计算机组成原理】实验二
文章目录 实验二 运算器实验一、实验目的二、实验原理三、运算器功能编码四、实验内容任务一 算术运算任务二 逻辑运算任务三 移位运算 实验二 运算器实验 一、实验目的 完成算术、逻辑、移位运算实验,熟悉ALU运算类型的控制位运用。实验仪器:JTHS-A …...
hive数据库hql基础操作02
1.内部表和外部表 默认情况下创建的表就是内部表,Hive拥有该表的结构和文件。换句话说,Hive完全管理表(元数据和数据)的生命周期,类似于RDBMS中的表。当你删除内部表时,它会删除数据以及表的元数据。可以使…...
门电路OD门
漏极开路输出的门电路(OD门) 为了满足输出电平的变换,输出大负载电流,以及实现“线与”功能,将CMOS门电路的输出级做成漏极开路的形式,称为漏极开路输出的门电路,简称OD(Open&#x…...
没有域名,一个服务器Nginx怎么部署多个前端项目
因为没有域名,所以用路径来作区分, 主项目:直接根路由访问该项目,与正常配置无任何差别从项目:此处设置/new路径,为从项目,所有从项目访问路径均要加上/new ①修改Nginx配置文件 Nginx 配置文…...
城市内涝的原因和解决措施,内涝监测预警助力城市防涝度汛
城市内涝是城市化进程中最遇到的自然灾害,城市内涝不仅会对市民生活造成困扰,也会对城市基础设施和经济发展产生不利影响。因此,及时监测城市内涝现象,对于城市管理和城市安全具有重要意义。本文将深入探讨城市内涝的原因以及针对…...
8年测试总结,性能测试问题大全,这些问题你应该认清的...
目录:导读 前言一、Python编程入门到精通二、接口自动化项目实战三、Web自动化项目实战四、App自动化项目实战五、一线大厂简历六、测试开发DevOps体系七、常用自动化测试工具八、JMeter性能测试九、总结(尾部小惊喜) 前言 响应时间VS吞吐量…...
RabbitMQ集群安装
RabbitMQ集群安装 1.前言 OS: CentOS Linux release 7.9.2009 (Core) 机器: IPnodecpu内存存储10.106.1.241max-rabbitmg-018 核16 G100 G10.106.1.242max-rabbitmg-028 核16 G100 G10.106.1.243max-rabbitmg-038 核16 G100 G 因为操作系统版本是 centos7,所以…...
面试:link和@import的区别
1:link是XHTML标签,除了加载CSS外,还可以加载RSS;import只能加载CSS 2:link引入CSS时,在页面载入时同时加载;import需要页面完全载入后加载,可能会出行闪屏 3:link是XHTML标签,无兼容…...
图片隐写(一)
文件隐藏 binwalk binwalk -e filename foremost foremost filename steghide & stegseek Install sudo apt-get install steghidestegseek Use steghide extract -sf filename -p passwordtime stegseek secret.file aaa.txt dd 文本隐藏 二进制文件末尾 or 文…...
19c补丁后oracle属主变化,导致不能识别磁盘组
补丁后服务器重启,数据库再次无法启动 ORA01017: invalid username/password; logon denied Oracle 19c 在打上 19.23 或以上补丁版本后,存在与用户组权限相关的问题。具体表现为,Oracle 实例的运行用户(oracle)和集…...
微信小程序之bind和catch
这两个呢,都是绑定事件用的,具体使用有些小区别。 官方文档: 事件冒泡处理不同 bind:绑定的事件会向上冒泡,即触发当前组件的事件后,还会继续触发父组件的相同事件。例如,有一个子视图绑定了b…...
k8s从入门到放弃之Ingress七层负载
k8s从入门到放弃之Ingress七层负载 在Kubernetes(简称K8s)中,Ingress是一个API对象,它允许你定义如何从集群外部访问集群内部的服务。Ingress可以提供负载均衡、SSL终结和基于名称的虚拟主机等功能。通过Ingress,你可…...
【Linux】C语言执行shell指令
在C语言中执行Shell指令 在C语言中,有几种方法可以执行Shell指令: 1. 使用system()函数 这是最简单的方法,包含在stdlib.h头文件中: #include <stdlib.h>int main() {system("ls -l"); // 执行ls -l命令retu…...
srs linux
下载编译运行 git clone https:///ossrs/srs.git ./configure --h265on make 编译完成后即可启动SRS # 启动 ./objs/srs -c conf/srs.conf # 查看日志 tail -n 30 -f ./objs/srs.log 开放端口 默认RTMP接收推流端口是1935,SRS管理页面端口是8080,可…...
Springcloud:Eureka 高可用集群搭建实战(服务注册与发现的底层原理与避坑指南)
引言:为什么 Eureka 依然是存量系统的核心? 尽管 Nacos 等新注册中心崛起,但金融、电力等保守行业仍有大量系统运行在 Eureka 上。理解其高可用设计与自我保护机制,是保障分布式系统稳定的必修课。本文将手把手带你搭建生产级 Eur…...
【服务器压力测试】本地PC电脑作为服务器运行时出现卡顿和资源紧张(Windows/Linux)
要让本地PC电脑作为服务器运行时出现卡顿和资源紧张的情况,可以通过以下几种方式模拟或触发: 1. 增加CPU负载 运行大量计算密集型任务,例如: 使用多线程循环执行复杂计算(如数学运算、加密解密等)。运行图…...
IT供电系统绝缘监测及故障定位解决方案
随着新能源的快速发展,光伏电站、储能系统及充电设备已广泛应用于现代能源网络。在光伏领域,IT供电系统凭借其持续供电性好、安全性高等优势成为光伏首选,但在长期运行中,例如老化、潮湿、隐裂、机械损伤等问题会影响光伏板绝缘层…...
Java面试专项一-准备篇
一、企业简历筛选规则 一般企业的简历筛选流程:首先由HR先筛选一部分简历后,在将简历给到对应的项目负责人后再进行下一步的操作。 HR如何筛选简历 例如:Boss直聘(招聘方平台) 直接按照条件进行筛选 例如:…...
服务器--宝塔命令
一、宝塔面板安装命令 ⚠️ 必须使用 root 用户 或 sudo 权限执行! sudo su - 1. CentOS 系统: yum install -y wget && wget -O install.sh http://download.bt.cn/install/install_6.0.sh && sh install.sh2. Ubuntu / Debian 系统…...
