将一台服务器上的文件放在另一台服务器 的hdfs上
来源:互联网 发布:小矮星彼得性格知乎 编辑:程序博客网 时间:2024/06/10 16:29
import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.FileSystem;import org.apache.hadoop.fs.Path;import org.apache.hadoop.io.IOUtils;import org.springframework.stereotype.Service;import java.io.*;import java.net.HttpURLConnection;import java.net.URI;import java.net.URL;/** * Created by panghu on 2017/9/13. */@Servicepublic class FileManageService { /** * 将一个服务器上的文件放到另一个服务器的hdfs上 * @param local * @param target * @throws IOException */ public static void fileUp(String local ,String target) throws IOException { URL url = new URL(local); HttpURLConnection conn = (HttpURLConnection)url.openConnection(); //设置超时间为3秒 conn.setConnectTimeout(3*1000); //防止屏蔽程序抓取而返回403错误 conn.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)"); //得到输入流 InputStream in = conn.getInputStream(); System.out.println(target); Configuration conf = new Configuration(); FileSystem fs = FileSystem.get(URI.create(target), conf); OutputStream out = fs.create(new Path(target)); IOUtils.copyBytes(in, out, 4096, true); System.out.println("上传完成。。。。。。。"); } /** * 上传本地文件到hdfs * @param local * @param remote * @throws IOException * * */ public static String copyFile(String uri , String local, String remote) throws IOException { Configuration conf = new Configuration(); FileSystem fs = FileSystem.get(URI.create(uri), conf); fs.copyFromLocalFile(new Path(local), new Path(remote)); System.out.println("copy from: " + local + " to " + remote); fs.close(); return "111"; } public static void main(String[] args) { System.out.println(1234); }}
阅读全文
0 0
- 将一台服务器上的文件放在另一台服务器 的hdfs上
- linux 将一个服务器上的文件或者文件夹复制到另一台服务器上
- 将一台机器上的文件移动到另一台ftp服务器
- .net 文件上传到另一台服务器上
- RelFinder 放在 tomcat 下访问另一台服务器中的数据库时的跨域问题
- 借助PL/SQL将服务器上的oracle10数据库转移到另一台服务器上的方法
- 借助PL/SQL将服务器上的oracle10数据库转移到另一台服务器上的方法
- SqlServer中在当前数据库服务器上得到另一数据库服务器上数据的方法
- 利用scp将压缩打包的数据上传另一台服务器上的解决方法
- windows 2003 上架设web服务器【设置IIS指向另一台机器上的共享】
- 如何把mongodb 里的数据复制到另一台服务器上
- 如何利用mount命令挂载另一台服务器上的目录
- log4j.properties和在服务器上放的位置
- quartz定时放在服务器上莫名其妙的执行两次
- 关于图片放在服务器上 显示的问题
- 在一台asterisk服务器上拨号,电话从另一台打出
- .Net各版本在一台服务器上的兼容问题
- 虚拟机搭建的vsftpd服务器,在另一台电脑访问
- 笔试题错误笔记(一)
- jQuery插件开发
- 模仿微信界面之聊天界面
- 随机生成字符串
- spring当中的AOP
- 将一台服务器上的文件放在另一台服务器 的hdfs上
- AngualrJs 最新 文件图片上传教程10:Server-routes
- 大数据已成战略性资源 各行业需求急增
- docker compose php环境
- 【Python初学笔记】no.1列表的使用之超市购物示例
- UISsearchDisplayController搜索内容
- 文章标题
- scala语言的一些特技
- Windows安全检查脚本 bat 批处理