Spark/scala 写数据到Mysql数据库方法二
来源:互联网 发布:网络攻击与防范 编辑:程序博客网 时间:2024/06/03 12:32
首先需要使用Navicat在数据库建库santi,在santi内建表santi_001
表的格式需要与santi_001(lal: String,count:Int,time:String)相同。
代码如下。
将RDD转化成DataFrame写入数据库
import org.apache.spark.sql.types.{IntegerType, StringType, StructField, StructType}
import org.apache.spark.{SparkContext, SparkConf}
import org.apache.spark.sql.Row
object ToMysql{
def main(args: Array[String]) {
//创建环境变量
val sparkConf = new SparkConf().setAppName(“PeakTimePeople”)
//创建环境变量实例
val sc = new SparkContext(sparkConf)
val sqlContext = new org.apache.spark.sql.SQLContext(sc)
val schema = StructType(
List(
StructField(“lac”, StringType, true),
StructField(“count”, IntegerType, true),
StructField(“time”, StringType, true)
)
)
import java.util.Properties
val prop = new Properties()
prop.setProperty(“driver”,”com.mysql.jdbc.Driver”)
prop.put(“user”,”root”)
prop.put(“password”,”123456”)
val a=List((“12@21”,12,”20160201”),(“13@12”,31,”20160831”),(“13@12”,31,”20160826”))
val rowRDD= sc.makeRDD(a).map(x=>Row(x._1,x._2,x._3))
println(rowRDD.collect.mkString(“;”)) //打印出来查看数据
val data=sqlContext.createDataFrame(rowRDD,schema)
val url=”jdbc:mysql://192.168.137.131:3306/santi”
data.write.mode(“overwrite”).jdbc(url,”santi_001”,prop)
sc.stop()
}
}
- Spark/scala 写数据到Mysql数据库方法二
- Spark/scala 写数据到Mysql数据库方法一
- spark (scala)使用mybatis插入数据到mysql
- 保存数据到MySql数据库——我用scrapy写爬虫(二)
- selenium--链接MySQL数据库并将数据写到数据库
- scala 写spark
- Spark写入数据到MySQL
- 如何将python中的数据写到mysql数据库中
- mysql数据迁移到mongodb之自写方法实现
- Scala学习到精通是spark大数据
- 写数据到数据库SQLserver
- 使用Scala 读写MySQL 数据给Spark任务执行
- 用scala 写spark程序
- spark:scala读取mysql的4种方法
- SPark SQL 从 DB 读取数据方法和方式 scala
- Spark数据存储到mysql中
- 从mysql数据库导入数据到mongodb的方法大全
- springMVC保存数据到mysql数据库中文乱码问题解决方法
- iOS-SVN无法上传静态库(.a)解决方案
- iOS:Swift自定义print
- cgo的一些经验
- 接口获取页面url参数
- 微信接入探秘(三)——加密消息的处理
- Spark/scala 写数据到Mysql数据库方法二
- android shape 资源的学习笔记
- 事件处理---屏蔽后退键
- sql查最新日期数据
- yalmip + lpsolve + matlab 求解混合整数线性规划问题(MIP/MILP)
- MyEclipse 2016 for Mac IDE中调出 Tomcat Servers 配置文件夹的方法
- git 放弃文件修改 和 版本回退
- android之四大组件
- css中的rgba() 兼容IE8以下的浏览器