spark Shuffle内幕

一：到底什么是Shuffle？
Shuffle中文翻译为“洗牌”，需要Shuffle的关键性原因是某种具有共同特征的数据需要最终汇聚到一个计算节点上进行计算。

1、Shuffle一般包含两阶段任务；
第一部分，产生Shuffle数据的阶段（map阶段）getWriter,需要实现ShuffleManager中getWriter来写数据（数据 可以BlockManager写到Memory、DIsk、Tachyon等，例如像非常快的Shuffle，此时可以考虑把数据写到内存中，但是内存不稳定，建议使用 MEMORY_AND_DISK方式），
第二阶段，使用Shuffle数据的阶段（Reduce阶段） ，额外补充，需要实现ShuffleManager的getReader;

2、如果只有一个Stage，则这个Job就是相当于只有一个Mapper阶段， 当然不会产生Shuffle，适合于简单的ETL；在Spark的链条上有很多的Stage，最后一个Stage产生阶段，最后一个Stage是倒数第二个Stage的Reducer（除了单Stage的job），最后一个Stage是Reducer，第一个 Stage一定是Mapper，中间的Stage既是Mapper也是Reducer，即第n个Stage是第n-1个Stage的Reducer，也是第n+1个Stage的Mapper。

二：Shuffle可能面临的问题？
　　运行Task的时候才会产生Shuffle（Shuffle已经融化在Spark的算子中了）。
　　1、 数据量非常大【几千甚至上万台机器进行Shuffle的数据量会很大，从其他各台机器上收集过来数据的时候，网络传输量会很恐怖】
　　2、 数据如何分类，即如何Partition，Hash、Sort、钨丝计算；【不同的Partition的不同实现，他会影响集群规模的大小，会影响内存的使用，会影响性能等等方面，也就有了Shuffle几个不同的净化阶段】
　　3、 负载均衡（数据倾斜）【因为采用不同的Shuffle的方式对数据进行不同的分类，而分类之后数据又分到不同的节点上进行计算，如果Shuffle分类不恰当，会导致负载均衡，也就是数据倾斜】
　　4、 网络传输效率，需要在压缩和解压缩之间做出权衡，序列化和反序列也是要考虑的问题【如果压缩，则需要解压缩，解压缩需要消耗CPU，所以需要衡量带宽和CPU解压的时间，做出正确的权衡】
　　说明：具体的Task进行计算的时候尽一切最大可能使得数据具备Process Locality的特性
　　【因为这是它运行最快的方式，数据在内存中，也就是默认采取的方式，如果迫不得已，数据不能全部放在内存中，从实际生成角度讲（即不具备内存本地性）】；退而求次是增加数据分片，减少每个Task处理的数据量
　　【导致任务运行的批次更多，任务更多】。
　　【1，cache本身具有风险，Memory溢出风险，它被其他计算占用掉内存的风险，导致重新计算，除非计算特别复杂，计算链条特别长，可能有必要为了容错，为了再次数据复用，来进行中间结果的持久化，否则的话，尤其是持久化到disk时，还不如在内存中直接计算，这样的速度有可能比从磁盘中读取曾经计算结果来的更快2，度磁盘I/O是一个高风险的动作，读内存分享会降低很多。
　　在一个Stage内部，不持久化中间结果，数据丢失重新计算依赖的RDD；但是在产生Shuffle的时候，会产生网络通信，这是需要持久化。
持久化默认情况下放在磁盘中，也可以调整Spark的框架，将数据放在内存中，现在一般放在Local FileSystem上面，也可以放在Tachyon中，这些都可以通过调整Spark的配置和改造Spark源码来实现。】

三：Hash Shuffle彻底解密
　　1、key不能是Array；
　　【key如果是Array，则就无法非常友好的计算具体的hashcode值】
　　2、 Hash Shuffle不需要排序
　　【使得速度很快，其工作机制根据Shuffle的前面的Stage的最后一个final RDD，依据Partition把数据分成不同的类，按照Key的hashcode，然后按照一定的业务逻辑规则（例如，假如下一个Stage有3个并行任务，最简单的就是取模3运算，分成3种类型的数据）无需排序，性能很好】，此时从理论上讲就节省了Hadoop MapReduce中进行Shuffle需要排序时候的时间浪费，因为实际生产环境有大量的不需要排序的Shuffle类型；
　　思考：不需要排序的Hash Shuffle是否一定比需要排序的Sorted Shuffle速度更快？不一定！如果数据规模比较小的情形下，Hash Shuffle会比Sorted Shuffle速度快（很多）！但是如果数据量大，此时Sorted Shuffle一般都会比Hash Shuffle快（很多）
　　【数据量大的情况下，Sorted Shuffle比Hash Shuffle快的原因：如果数据规模比较大，可能Hash Shuffle无法处理，因为hash的方式时会有key和句柄之类，还有许多小文件，此时，磁盘的性能会成为瓶颈，内存也会变成瓶颈。Sorted Shuffle会极大地节省磁盘、内存的访问，更有利于更大规模的数据运算】
　　3、每个ShuffleMapTask会根据key的哈希值计算出当前的key需要写入的Partition，然后把决定后的结果写入当单独的文件，此时会导致每个Task产生R（指下一个Stage的并行度）个文件，如果当前的Stage中有M个ShuffleMapTask，则会M*R个文件！！！
　　注意：Shuffle操作绝大多数情况下都要通过网络，如果Mapper和Reducer在同一台机器上，此时只需要读取本地磁盘即可。
【每个任务都产生R个小文件，由于其需要将数据分成几种不同类型，就是下一个Stage的具体的Task会读取的与自己相关的数据，因为已经分好类了，此时会产生M*R个小文件，那么下一个Stage就会通过网络根据Driver的注册信息（由于上一个Stage写过的内容会注册给Driver），然后询问Driver上一个Stage具体的输出在哪里，以及哪些属于该Stage的部分，通过网络读取数据；同时Shuffle的数据不一定都需要通过网络（有可能在同一台机器上）】

Hash Shuffle的两大死穴：
第一：Shuffle前会产生海量的小文件于磁盘之上，此时会产生大量耗时低效的IO操作；
第二：内存不共用！！！由于内存中需要保存海量的文件操作句柄和临时缓存信息，如果数据处理规模比较庞大的话，内存不可承受，出现OOM等问题！

Hash-based Shuffle另一说法
1、 Spark Shuffle在最开始的时候只支持Hash-based Shuffle:默认Mapper阶段会为Reducer阶段的每一个Task单独创建一个文件来保存该Task中要使用的数据。
优点：就是操作数据简单。
缺点：但是在一些情况下(例如数据量非常大的情况)会造成大量文件(M*R,其中M代表Mapper中的所有的并行任务数量，R代表Reducer中所有的并行任务数据)大数据的随机磁盘I/O操作且会形成大量的Memory(极易造成OOM)。

2、Hash-based Shuffle产生的问题:
第一：不能够处理大规模的数据
第二：Spark不能够运行在大规模的分布式集群上！

3、Consolidate机制:
后来的改善是加入了Consolidate机制来将Shuffle时候产生的文件数量减少到C*R个(C代表在Mapper端，同时能够使用的cores数量，R代表Reducer中所有的并行任务数量)。但是此时如果Reducer端的并行数据分片过多的话则C*R可能已经过大，此时依旧没有逃脱文件打开过多的厄运！！！Consolidate并没有降低并行度，只是降低了临时文件的数量，此时Mapper端的内存消耗就会变少，所以OOM也就会降低，另外一方面磁盘的性能也会变得更好。
对于ShuffleMapTask的数量明显多于可用并行Cores的数量的情况下，Shuffle产生的文件大幅减少，降低OOM可能。
Spark在引入Sort-Based Shuffle之前，适合中小型数据规模的大数据处理！

四： Sorted Shuffle解密
为了改善上述的问题（同时打开过多文件导致Writer Handler内存使用过大以及产生过度文件导致大量的随机读写带来的效率极为低下的磁盘IO操作），Spark后来推出了Consalidate机制，来把小文件合并【根据TaskId进行合并】，此时Shuffle时文件产生的数量为cores*R，对于ShuffleMapTask的数量明显多于同时可用的并行Cores的数量的情况下，Shuffle产生的文件会大幅度减少，会极大降低OOM的可能；【consalidate机制减少了文件，同时也减少了文件句柄的数量；但对于并行度非常高时，及R值特别大时，还是很麻烦。】
　　【在接口ShuffleManager中：registerShuffle：由Driver注册源数据中的信息，系统默认情况下其有HashBasedShuffle和SortedBasedShuffle两种情况。getReader和getWriter：获取怎么在Shuffle的时候写本地数据，获取下一个Stage读取上一个Stage的具体数据的阅读器。unregisterShuffle：删除掉本地的Shuffle的源数据。Stop：停止ShuffleManager】
　　为此Spark推出了Shuffle Pluggable开放框架，方便系统升级的时候定制Shuffle功能模块，也方便第三方系统改造人员根据实际的业务场景来开放具体最佳的Shuffle模块；核心接口ShuffleManager，具体默认实现有HashShuffleManager、SortShuffleManager等，Spark 1.6.0/Spark 1.5.2中具体的配置如下：

val shortShuffleMgrNames = Map(
“hash” -> “org.apache.spark.shuffle.hash.HashShuffleManager”,
“sort” -> “org.apache.spark.shuffle.sort.SortShuffleManager”,
“tungsten-sort” -> “org.apache.spark.shuffle.unsafe.UnsafeShuffleManager”)
　　默认采取SortedBasedShuffle的方式。

Sort是如何解决内存不够、小文件过多的问题？
　　采用Hash的方式的适用场景是数据规模相对比较小，而且不需要排序。Hadoop的MapReduce进行排序，使得处理数据规模更大，集群规模更大。

Consalidate一定程度上解决了该问题，但仍不彻底，SortedBased
Shuffle更好的解决了该问题。首先，每个ShuffleMapTask不会为每个Reducer生成一个单独的文件，它护肩所有的结果写到一个文件里，同时生成一个Index索引文件，每个Reducer可以根据这个Index索引文件取得它所需要处理的数据，这样就避免产生大量文件，没有了大量文件，也就没有了大量的文件句柄，节省了内存；同时由于磁盘上文佳变少了，而且有Index索引，不用随机的去读写，而是顺序的disk I/O，带来了低延迟，节省了内存；另一方面，减少了GC风险和频率，而减少具体的文件数量可以避免同时些多个文件是给系统带来的压力，这就是优势所在。

　　具体的实现：ShuffleMapTask会按照Key相应的Partition的ID进行Sort，如果属于同一个Partition的Key，本身不进行Sort，因此对不需要sort的操作来说，如果内存不够用，他就会把那些已经排序的内容写到外部disk，结束的时候再进行归并排序（merge-sort）
为高效读取这些file Seagate，它有一个Index文件，会记录不同的Partition的位置信息，BlockManager也会对它的寻址算法进行优化性的实现。归并排序最优是打开10-100个文件。
　　最后生成文件时需要同时生成Index索引文件。

　　对具体的ShuffleMapTask，它外部有具体的归并排序方式，mergeSort，sort之后会产生两个文件，这两个文件其中一个是Index索引文件，一个是存放具体的Task的输出内容，在Reducer端读取数据的时候，其实首先访问Index，具体在工作的时候，BlockManager首先访问Index，通过Index去定位具体文件内容。避免了大量文件句柄，节省内存。
　　采用Sort方式集群的规模和数据的计算规模就不受限制了。

Sort-Based Shuffle的另一说法
　　1、为了让Spark在更大规模的集群上更高性能处理更大规模的数据，于是就引入了Sort-based Shuffle!从此以后(Spark1.1版本开始)，Spark可以胜任任何规模(包括PB级别及PB以上的级别)的大数据的处理，尤其是钨丝计划的引入和优化，Spark更快速的在更大规模的集群处理更海量的数据的能力推向了一个新的巅峰！
　　2、Spark1.6版本支持最少三种类型Shuffle：
　　
实现ShuffleManager接口可以根据自己的业务实际需要最优化的使用自定义的Shuffle实现；

　　3、Spark1.6默认采用的就是Sort-based Shuffle的方式：
val shuffleMgrName = conf.get(“spark.shuffle.manager”, “sort”)
上述源码说明，你可以在Spark配置文件中配置Spark框架运行时要使用的具体的ShuffleManager的实现。
可以在conf/spark-default.conf加入如下内容：
spark.shuffle.manager SORT 配置Shuffle方式是SORT

　　4、 Sort-based Shuffle的工作方式如下：Shuffle的目的就是：数据分类，然后数据聚集
　　1) 首先每个ShuffleMapTask不会为每个Reducer单独生成一个文件，相反，Sort-based Shuffle会把Mapper中每个Shuffle
MapTask所有的输出数据Data只写到一个文件中。因为每个ShuffleMapTask中的数据会被分类，所以Sort-based Shuffle使用了index文件存储具体ShuffleMapTask输出数据在同一个Data文件中是如何分类的信息！！
2)基于Sort-base的Shuffle会在Mapper中的每一个ShuffleMapTask中产生两个文件：Data文件和Index文件，其中Data文件是存储当前Task的Shuffle输出的。而index文件中则存储了Data文件中的数据通过Partitioner的分类信息，此时下一个阶段的Stage中的Task就是根据这个Index文件获取自己所要抓取的上一个Stage中的ShuffleMapTask产生的数据的，

Reducer就是根据index文件来获取属于自己的数据。
涉及问题：Sorted-based Shuffle：会产生 2*M(M代表了Mapper阶段中并行的Partition的总数量，其实就是ShuffleMapTask的总数量)个Shuffle临时文件。
Shuffle产生的临时文件的数量的变化一次为：
Basic Hash Shuffle: M*R;
Consalidate方式的Hash Shuffle: C*R;
Sort-based Shuffle: 2*M;

默认Sort-based Shuffle的几个缺陷：
1.如果Mapper中Task的数量过大，依旧会产生很多小文件，此时在Shuffle传递数据的过程中到Reducer端，reduce会需要同时打开大量的记录来进行反序列化，导致大量的内存消耗和GC的巨大负担，造成系统缓慢甚至崩溃！
2．如果需要在分片内也进行排序的话，此时需要进行Mapper端和Reducer端的两次排序！！！
优化：
1.可以改造Mapper和Reducer端，改框架来实现一次排序。
2. 频繁GC的解决办法是：钨丝计划！！

1.shuffle_0_0_0.data
2.Shuffle_0_1_0.data
3.Shuffle_0_2_0.data
4.Shuffle_0_3_0.data
5.Shuffle_0_0_0.index
6.Shuffle_0_1_0.index
7.Shuffle_0_2_0.index
8.Shuffle_0_3_0.index

命名规则：第一个1代表Stage，第二个1代表ShuffleMapTask ID，第三个0代表Reducer的ID，data代表数据本身

钨丝计划：

GC:即垃圾收集机制是指JVM用于释放那些不再使用的对象所占用的内存。Java语言并不要求JVM有GC，也没有规定GC如何工作。不过常用的JVM都有GC，而且大多数GC都使用类似的算法管理内存和执行收集操作。

参考：http://www.cnblogs.com/zlslch/p/5942590.html