使用FileSystem自带的api读取hdfs中的文件
来源:互联网 发布:it培训学校排名 编辑:程序博客网 时间:2024/05/17 08:27
博客搬家自https://my.oschina.net/itsyizu/blog/
1. 创建hadoop MapReduce项目
- 输入项目名称
- 创建好的项目初始化状态如下
- 编写java类
import java.io.IOException;import java.io.InputStream;import java.net.URI;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FileSystem;import org.apache.hadoop.fs.Path;import org.apache.hadoop.io.IOUtils;public class ReadFileUseFSAPI { public static void main(String [] args) throws IOException { String urlString=args[0]; Configuration conf=new Configuration(); FileSystem fSystem=FileSystem.get(URI.create(urlString),conf); InputStream inputStream=null; try { inputStream=fSystem.open(new Path(urlString)); IOUtils.copyBytes(inputStream, System.out, conf); } catch (Exception ex) { System.out.println(ex.getMessage()); }finally{ IOUtils.closeStream(inputStream); } }}
- 设置运行的参数
- 运行的结果
- 感觉使用FILESYSTEM的API读取文件的效率比较低
0 0
- 使用FileSystem自带的api读取hdfs中的文件
- 使用JAVA自带的API XStream读取XML文件
- hdfs的FileSystem API
- HDFS文件操作FileSystem使用API报错:copyToLocalFile NullPointerException
- Java API 读取HDFS的单文件
- 使用FileSystem类操作HDFS文件
- Spark 读取hdfs上的文件 错误:Caused by: java.io.IOException: Filesystem closed的处理
- hadoop自带的API文件
- 从HDFS上读取带lzo压缩的SequenceFile文件
- HDFS操作——使用 FileSystem api 读写数据
- Java API 读取HDFS目录下的所有文件
- SequenceFile与MapFile &hdfs的主要API类--FileSystem FSDataInputStream
- 使用FileSystem以标准输出格式显示HDFS当中的文件
- Android入门:使用Android自带媒体库读取MP3文件
- Android入门:使用Android自带媒体库读取MP3文件
- 使用Android自带媒体库读取MP3文件
- Android入门:使用Android自带媒体库读取MP3文件
- 使用Java自带的API进行JAVA代码与XML文件的转换(JAXB)
- 即时通讯smack4.1.0-添加好友遇到的bug
- 修改及查看mysql数据库的字符集
- 如何获取textarea中的内容?innerhtml、innerText还是value?
- 谷哥的小弟学后台(21)——DBUtils
- Crackme 21
- 使用FileSystem自带的api读取hdfs中的文件
- AWT与Swing
- hibernate 的三种状态
- 蓝桥杯入门4题
- C语言return陷阱小结
- 关于Cocos2d-x2.2.6中SimpleAudioEngine的问题
- 开发环境搭建(安装JDK,Tomcat、eclipse、maven)
- [THUWC]菜鸡旅游记
- redirect与forward的区别