D27 Akka实现,及自定义RPC

来源:互联网 发布:gta5卡怎么优化 编辑:程序博客网 时间:2024/06/14 01:56
一、Akka的Actor概述

目前大多数的分布式架构底层通信都是通过RPC实现的,RPC框架非常多,比如前我们学过的Hadoop项目的RPC通信框架,但是Hadoop在设计之初就是为了运行长达数小时的批量而设计的,在某些极端的情况下,任务提交的延迟很高,所有HadoopRPC显得有些笨重。

Spark RPC是通过Akka类库实现的,AkkaScala语言开发,基于Actor并发模型实现,Akka具有高可靠、高性能、可扩展等特点,使用Akka可以轻松实现分布式RPC功能。


二、RPC
master和其他的worker在jvm平台上来通信

ActorAkka中最核心的概念,它是一个封装了状态和行为的对象,Actor之间可以通过交换消息的方式进行通信,每个Actor都有自己的收件箱(Mailbox)。

通过Actor能够简化锁及线程管理,可以非常容易地开发出正确地并发程序和并行系统。


Actor具有如下特性:

1.提供了一种高级抽象,能够简化在并发(Concurrency/并行(Parallelism)应用场景下的编程开发

2.提供了异步非阻塞的、高性能的事件驱动编程模型

3.超级轻量级事件处理(每GB堆内存几百万Actor


三、实战:
①新建maven工程,自定义工程及版本号
 ②编写pom.xml,引入依赖包
③修改源码路径src/main/scala
<sourceDirectory>src/main/java</sourceDirectory><testSourceDirectory>src/test/java</testSourceDirectory>
<mainClass>Master</mainClass>

使用Akka.Actor实现rpc框架通信

A、创建Master
①构建Master类继承Actor
实现方法:
override def preStart(): Unit = {}  //master的启动过程可以为空
override def receive: Receive = {}  //用case来匹配收到的数据,实现业务逻辑

②实例化一个Master
实现方法:
  1. val host = args(0)
  2. val port = args(1).toInt //读取输入的IP地址和端口号
  3. val configStr =
  4. s"""
  5. |akka.actor.provider ="akka.remote.RemoteActorRefProvider"
  6. |akka.remote.netty.tcp.hostname ="$host"
  7. |akka.remote.netty.tcp.port ="$port"
  8. """.stripMargin
  9. val config =ConfigFactory.parseString(configStr) //设置配置的信息
  10. //ActorSystem的老大,辅助创建监控Actor,单例对象
  11. val actorSystem =ActorSystem("MasterSystem", config) //新建ActorSystem对象
  12.  
  13. val MasterActor= actorSystem.actorOf(Props(newMaster),"Master")//Master的名字
  14. MasterActor!"hello"
  15. actorSystem.awaitTermination()

B、创建Worker
①构建Worker类继承Actor
实现方法:
  1. override def receive:Receive={
  2. case"reply"=>{
  3. println("A reply from Master") //与Master通信获得
  4. }
  5. }
  6. //建立Worker到Master的链接,Worker启动后连接Master,读取master的Host和Port
  7. override def preStart():Unit={
  8. master = context.actorSelection(s"akka.tcp://MasterSystem@$masterHost:$masterPort/user/Master")
  9. master !"connect"
  10. }
②实例化Worker::
  1. val host = args(0)
  2. val port = args(1).toInt //自身的ip地址和端口号
  3. val masterHost = args(2)
  4. val masterPort = args(3).toInt //master的IP地址和端口号
  5. val configStr =
  6. s"""
  7. |akka.actor.provider ="akka.remote.RemoteActorRefProvider"
  8. |akka.remote.netty.tcp.hostname ="$host"
  9. |akka.remote.netty.tcp.port ="$port"
  10. """.stripMargin
  11. val config =ConfigFactory.parseString(configStr)
  12. //ActorSystem的老大,辅助创建监控Actor,单例对象
  13. val actorSystem =ActorSystem("WorkerSystem", config)
  14. actorSystem.actorOf(Props(newWorker(masterHost, masterPort)),"Worker")//Master的名字
  15. //MasterActor ! "hello"
  16. actorSystem.awaitTermination()
  17. }

以上是简单的通信,增强型的RPC通信协议过程如下图
Worker和Master编程的区别:都是继承了Actor实现方法,也都实现了自己的ip地址和端口号的设置。
区别在于Worker的preStart方法连接到了Master

Akka的Actor核心:其实是通过继承Actor实现了若干个可以互相连接的节点。只是要有一个节点来管理其他节点,老大叫Master,其他叫Worker。这些节点实现的消息处理是谁发给我消息,监听到后我返回给谁
A:对于Master来说,实现一个对外可以连接的IP地址和端口号即可,再就是丰富其匹配的消息的业务逻辑。
B:对于这若干个Worker来说,
①要在preStart()方法中实现链接的Master的IP地址和端口号,并且发送"connect"消息来表明连接。
②要在接收消息的方法中匹配Master连接成功的消息,来表明自己连接到了Master。
③要在实例化自己时,把要连接的Master的IP地址和端口号传入。
④命名为worker


重要API整理:

Akka中,Actor负责通信,在Actor中有一些重要的生命周期方法。

1.preStart()方法:该方法在Actor对象构造方法执行后执行,整个Actor生命周期中仅执行一次。

2.receive()方法:该方法在ActorpreStart方法执行完成后执行,用于接收消息,会被反复执行。

Actor的配置
 链接设置
 

原创粉丝点击