java.lang.IllegalArgumentException: java.net.UnknownHostException: user 错误解决
来源:互联网 发布:java方法名长度 编辑:程序博客网 时间:2024/05/22 11:40
在spark-shell环境运行官网实例,每次涉及action操作,总出现错误:java.lang.IllegalArgumentException: java.net.UnknownHostException: user
有的说修改hosts、有的说将$HADOOP_HOME/etc/hadoop下面的hdfs-site.xml和core-site.xml拷贝到$SPARK_HOME/conf下面,但是无效。后来参考(Spark Java.Lang.IllegalArgumentException: Java.Net.UnknownHostException: User)得到有效的解决方案:This error can be fixed by giving proper hostname and port.sc.textFile("hdfs://{hostname}:8020/{filepath}...")
即每次HDFS路径参数的时候,添加core-site.xml中 fs.defaultFS 对应的 {hostname}:port 信息。例如,我之前的传递的参数是酱紫的:"hdfs://user/root/data/file.txt"现在修改为:"hdfs://hostname:9000/user/root/data/file.txt"
另外需要注意,修改/etc/hosts的时候,配置如"127.0.0.1 your_hostname"是不对的,在启动spark-shell的时候会警告:WARN util.Utils: Your hostname, your_hostname resolves to a loopback address: 127.0.0.1; using 192.168.67.81 instead (on interface eth0)安装hadoop配置/etc/hosts的时候,只需在后面添加对应的IP master/slave即可,无需修改其它。
0 0
- java.lang.IllegalArgumentException: java.net.UnknownHostException: user 错误解决
- Caused by: java.lang.IllegalArgumentException: java.net.UnknownHostException: testcluster
- Caused by: java.lang.IllegalArgumentException: java.net.UnknownHostException: mycluster
- java.net.UnknownHostException:user
- java.net.UnknownHostException解决
- hive add jar 报java.net.UnknownHostException: user错误
- java.lang.IllegalArgumentException 错误
- java.net.UnknownHostException 错误排查
- Linux解决java.net.UnknownHostException
- java.lang.IllegalArgumentException的解决
- java.lang.IllegalArgumentException异常解决
- 解决java.lang.IllegalArgumentException: pointerIndex out of range的错误
- 解决java.lang.IllegalArgumentException: pointerIndex out of range的错误
- java 报‘java.net.UnknownHostException:错误
- centOs遇到java.net.UnknownHostException错误记录
- Jsoup:解决java.net.UnknownHostException的问题
- Jsoup:解决java.net.UnknownHostException的问题
- java.net.UnknownHostException找不到主机[已解决]
- 219. Contains Duplicate II
- 程序员必知的8大排序(四)-------归并排序,基数排序(java实现)
- KMP算法总结
- Android Launcher3 Shortcut 包名两行显示相切的问题。
- 第十三周项目四(Floyd算法实现)
- java.lang.IllegalArgumentException: java.net.UnknownHostException: user 错误解决
- 第十三周-项目一 验证算法(4)
- 第十一周项目2 用二叉树求解代数表达式
- 第十三周项目-验证算法(1-Prim算法)
- kvm随笔(一)
- 第十三周项目1-prim算法的验证
- 第十三周项目2-Kruskal算法的验证
- ORA-00845: MEMORY_TARGET not supported on this system(解决方法)
- 跨平台Socket封装——对IPv4地址的封装