【spark】使用scala读取项目中的文件的方法
来源:互联网 发布:seo黑帽工具有哪些 编辑:程序博客网 时间:2024/06/06 14:59
在IDAL下面读取本地文件,可以使用绝对路径也可以使用相对路径
一,直接路径的表达:
val path2 ="E:\\data\\TEST1.txt"val data = sc.textFile(path2)data.foreach(println)
直接将文件的绝对路径放在某个变量中,然后再使用textFile()读取里面的内容但是一般开发都采用这种方法吧
二,相对路径
在使用maven创建的项目中,在编译时会在项目下生成target文件夹,其下面的class文件夹里面生成src->main中的数据如resources中的文件或者是scala文件夹下面的.scala文件的“倒影”。
所以寻找文件的相对位置时,要先找到target这个目录下的地址,然后再找具体的文件。
下面这三条语句都能找到这个地址:
val resource1: URL = Test.getClass.getClassLoader.getResource("") val resource2: URL = MyRouteMain.getClass.getResource("") val resource3: URL = MyRouteMain.getClass.getResource("/") println("resource1 => " + resource1) println("resource2 => " + resource2) println("resource3 => " + resource3)
打印结果如下:
resource1 => file:/E:/mycode/Spark/mylearn/target/classes/resource2 => file:/E:/mycode/Spark/mylearn/target/classes/org/resource3 => file:/E:/mycode/Spark/mylearn/target/classes/
可见第一、三条语句寻找的是文件class的地址,第二条语句具体的class所在的文件夹地址。然后通过:
val path3 = resource1+"data/hello.txt"val data = sc.textFile(path3)data.foreach(println)
来输出文件中的内容。
3 0
- 【spark】使用scala读取项目中的文件的方法
- spark:scala读取mysql的4种方法
- spark读取csv文件——scala
- spark使用scala读取Avro数据
- 使用IDEA编写基于Scala的spark程序中的常见问题
- spark/scala关于【资源文件】加载方法
- scala学习-12-scala读取java项目下Src目录下的properties文件
- SPark SQL 从 DB 读取数据方法和方式 scala
- spark中的scala的广播变量
- maven创建scala项目:spark-streaming项目使用
- spark读取hdfs文件的路径使用正则表达式
- scala的maven项目读取配置文件
- spark向量矩阵的使用(scala)
- Spark存储与读取文件方法小结
- Spark存储与读取文件方法小结
- Scala语言 中的 apply 和 update 方法的使用
- 使用Eclipse 4.5 + Maven 3 打包Scala/Spark项目
- idea使用maven构建java和scala项目开发spark
- nodejs和C语言插入mysql数据库乱码问题
- Android项目 系统设计架构
- org.apache.ibatis.exceptions.PersistenceException: 前言中没有内容 错误的正确解决方法
- hdu 1394 Minimum Inversion Number -求逆序对的个数- 线段树单节点更新
- Linux系统源代码升级glibc到最新版本2.25.90(正在开发的版本)
- 【spark】使用scala读取项目中的文件的方法
- POJ 2236 Wireless Network(带权并查集)
- MVC流程
- 解决Eclipse中启动Tomcat时出现 Port 8080 required by Tomcat v8.5 Server at localhost is already in use...
- CART
- java配置jdk环境变量的问题
- 【洛谷P3697】开心派对小火车
- freemark
- socket与http的区别