TriangleCount三角形计数

来源:互联网 发布:淘宝运营模式图 编辑:程序博客网 时间:2024/06/05 00:53

Graphx作为Spark的图计算组件,提供了丰富的图操作接口,以及6个常用的算法(在graphx lib中)。这里简单介绍下三角形计数TriangleCount算法原理;

TriangleCount算法“统计每个顶点所在的三角形个数”。
关于三角形的定义,你一定不陌生。graphx是如何识别三角形,并做统计的呢

这里写图片描述
正如上图所示:每个顶点收集邻居点,如点1的邻居为(2,3,4),graphx中collectNeighborIds接口可以实现邻居点的收集功能。在图中点1和点4有共同邻居2、3所以,因此mapTriplets操作时可在边1-4上可以发现两个三角形<1,2,4>和<1,3,4>。完成三角形的求解和统计。(u see,三角形统计和计算在graphx中,也没有想象中困难吧)。

源码剖析

下面分析下graphx中TriangleCount算法源码?以spark2.0中的源码为例

这里写图片描述
这里写图片描述
上图对三角形计数的核心代码已做了标记和注释
如果你想计算具体的三角形,并不是仅仅统计三角形个数,会不会很麻烦呢?其实并不困难,只需要修改源码中的部分逻辑即可。比如在对比边的源点和终点的共同邻居时,就会得到(源点、终点、共同邻居),就如图中点1和点2,得到三角形<1,2,4>,将其存储在点上或边上都可以。前者仍然采用aggregateMessage方法,然后将三角形通过sendToSrc、sendToDst分别发送给源点或终点;后者只需要采用mapTriplets保存在边上即可。

至此,已简单介绍graphx中三角形个数统计的逻辑;并引申了如何保存和计算具体的三角形。
关于三角形计算,如果完全借鉴TriangleCount的逻辑,会有一定的数据冗余(三角形被重复计算,存储了2份或3份),u can思考下如何进行优化,或者留言讨论

1 0