
严重的negative transfer;what to pre-train? how to pre-train?
When to pre-train? [W2P]

如果下游的图可以从预训练数据和能够总结预训练数据的生成器上生成,那么此时预训练就是用的;
想看一下不同的domain间可不可以迁移,因此没有考虑属性,只考虑了结构。

直观的generator: 输入空间中找类似的,拟合一个graphon作为一个generator

定义可迁移性为:下游数据被生成器生成的概率

减少graphon-basis 的搜索空间:

用更少的dataset,实现更好的图预训练效果。