将json数据映射成对象的处理办法
来源:互联网 发布:运动软件免费下载 编辑:程序博客网 时间:2024/05/18 07:14
case class Person(channel: String, IP: String, mid: String, user_id_temp: String, user_id: String, request_type: String, request_method: String, access_time: String) extends Serializable { private val serialVersionUID = 7247714666080613254L }val conf = new SparkConf() // conf.set("spark.serializer", "org.apache.spark.serializer.KryoSerializer") // conf.registerKryoClasses(Array(classOf[Person])) val spark = SparkSession.builder().master("local[*]").appName("sql").config(conf).getOrCreate() val input5 = spark.sparkContext.textFile("file:///C:/.../Request", 100) val input = input5.flatMap(line => { implicit val formats = Serialization.formats(ShortTypeHints(List())) //序列化 val data = parse(line) //解析json成对象 val eventa = data.extract[Person] Some(eventa) }).persist() input.foreachPartition(s => { val topic = "xx" val brokers = "xx" val props = new Properties() props.put("metadata.broker.list", brokers) props.put("serializer.class", "kafka.serializer.StringEncoder") val kafkaConfig = new ProducerConfig(props) val producer = new Producer[String, Object](kafkaConfig) val event = new JSONObject() while(s.hasNext){ val x = s.next() event .put("access_time", x.access_time) .put("channel", x.channel) // .put("ip", x.IP) // .put("mid", x.mid) // .put("user_id", x.user_id) .put("user_id_temp", x.user_id_temp) .put("request_type", x.request_type) .put("request_method", x.request_method) println(event) producer.send(new KeyedMessage[String, Object](topic, event.toString)) Thread.sleep(100) }
阅读全文
0 0
- 将json数据映射成对象的处理办法
- 将JSON数据转换成对象
- JSON数据转换成对象
- 将Excel sheet 映射成对象
- JS-将json格式转换成对象
- 将map映射成实体对象的两种方式 将list映射成对象
- c# json数据解析——将字符串json格式数据转换成对象
- JSONObject将Json转换成对象时无法转换json数据字段
- 如何将C#/.NET 将json字符串格式数据转换成对象
- 将表单序列化类型的数据转化成对象的处理(允许对象中包含对象)
- cocos2d-x 将cocosbuilder输出文件映射成对象的原理
- cocos2d-x 将cocosbuilder输出文件映射成对象的原理
- cocos2d-x 将cocosbuilder输出文件映射成对象的原理
- 使用JSONObject将json文件转化成对象
- BaseMode 数据的封装成对象
- Sharp-ORM 自动将数据库封装成对象的生成器,三层数据访问结构
- javascript 字符串原型封装将url里的数据转换成对象
- 自定义注解的使用(将request参数中的数据解释成对象)
- swagger-maven-plugin自动生成swagger.json(springmvc项目)
- js的数据类型
- Flask零基础到项目实战(六)cookie和session(一)
- 每个月1号触发程序
- 文件上传利器SWFUpload使用
- 将json数据映射成对象的处理办法
- io-bufferedReader类
- OpenStack Heat 如何来实现和支持编排
- JAVA中的集合类
- Android开发,自定义View(一)-----入门
- 二维数组练习18_肿瘤面积
- 搭建Nginx+Java环境
- cmd 关闭tomcat
- 推荐系统