Non-Homophilic Graph Pre-Training and Prompt Learning

Non-Homophilic Graph Pre-Training and Prompt Learning

KDD25

​#paper/⭐#​

目的：对异配图进行prompt

‍

​​

方法

邻居节点的综合嵌入

${\mathbf{s}}_v=\frac{1}{|V(S_v)|}{\sum }_{u\in V(S_v)}{\mathbf{h}}_u\cdot \mathrm{sim}({\mathbf{h}}_u,{\mathbf{h}}_v),$

在实践中，作者使用了2hop来表示邻域信息

邻域信息映射

${\mathbf{p}}_{t,v}=\mathrm{CondNet}(s_v;{\varphi }_t)$，这里，condnet是一层MLP

${\tilde{\mathbf{h}}}_{t,v}={\mathbf{p}}_{t,v}\odot {\mathbf{h}}_v,$

与类prototype做prompt

${\mathcal{L}}_{\mathrm{down}}({\varphi }_t)=-{\sum }_{(x_i,y_i)\in {\mathcal{D}}_t}\ln \frac{\exp \left(\frac{1}{\tau }\sin ({\tilde{\mathbf{h}}}_{t,x_i},{\bar{\mathbf{h}}}_{t,y_i})\right)}{{\sum }_{c\in Y}\exp \left(\frac{1}{\tau }\sin ({\tilde{\mathbf{h}}}_{t,x_i},{\bar{\mathbf{h}}}_{t,c})\right)}$

其中，$h_{t,c}$代表属于类C的平均值。

结果：

​​

‍