hiveContext读取hive数据
来源:互联网 发布:郑州科技市场数据恢复 编辑:程序博客网 时间:2024/06/09 07:58
import java.io.{IOException, FileOutputStream, OutputStream, File}import java.util.Propertiesimport org.apache.spark.sql.Rowimport org.apache.spark.sql.hive.HiveContextimport org.apache.spark.{SparkContext, SparkConf}import org.apache.log4j.{Level, Logger}/** * Created by shuilin on 2017/12/19. */object HiveSourceTest { val file = new File("E:" + File.separator + "hello.txt") var out:OutputStream=new FileOutputStream(file) def main(args: Array[String]) { Logger.getLogger("org.apache.spark").setLevel(Level.ERROR) val sparkConf = new SparkConf().setAppName("hivetest").setMaster("local") val sparkContext = new SparkContext(sparkConf) val hiveContext = new HiveContext(sparkContext) val props=getProperties() val sql_text=props.getProperty("sql_text") println(sql_text) val data=hiveContext.sql(sql_text) /*data.foreach(row =>{ println(row.toString()) val rowstring = row.toString().getBytes() out.write(rowstring) out.write("\r\n".getBytes) //writeFile("D:\\test.sql",row.toString()) })*/ data.foreach(writeFile) out.close() sparkContext.stop() } def getProperties(): Properties = { val props = new Properties() val in = this.getClass.getClassLoader.getResourceAsStream("sql.properties") props.load(in) props } def writeFile(row:Row): Unit ={ val rowstring=row.toString() out.write(rowstring.getBytes) out.write("\r\n".getBytes) }}
阅读全文
0 0
- hiveContext读取hive数据
- IDEA Spark HiveContext访问Hive
- hive读取es数据
- hcatalog读取hive数据并写入hive
- 使用hive读取hbase数据
- 使用hive读取hbase数据
- 使用hive读取hbase数据
- SparkSQL读取Hive中的数据
- Sark Sql读取hive数据
- Spark-SQL和Hive on Spark, SqlContext和HiveContext
- 使用Hive读取Hbase中的数据
- 使用Hive读取Hbase中的数据
- 用newLISP读取Hive的元数据
- 使用Hive读取Hbase中的数据
- java读取hive导出的数据
- hive存储读取json格式的数据
- 使用Hive读取Hbase中的数据
- 使用Hive读取Hbase中的数据
- Oracle数据库知识点总结
- 倒沖法-線邊倉
- requsets的过程
- 搜索商品,实现网格布局
- WPF 自由拖拽控件
- hiveContext读取hive数据
- Android点击WebView中的图片获取指定标签段的所有图片实现缩放及滑动浏览-PhotoView
- opencv 以及opencv_contrib ubuntu14.04 配置的问题汇总
- pytorch学习笔记(十八):C 语言扩展 pytorch
- C#学习笔记(视图)
- 听见丨AirPods圣诞节前无货,全球范围内再次缺货 Uber计划2024年推出“打飞的”服务
- 马云、马化腾各自性格决定投资方式,你更看好谁?
- SIGPIPE信号导致服务器进程退出的原理及解决办法
- 听见丨英伟达自动驾驶汽车AI超算Xavier新消息 已经开始生产 谷歌宣布明年三月关闭Tango:集中关注ARCore