SparkCore程序可能遇到的异常
来源:互联网 发布:淘宝授权书怎么弄买家 编辑:程序博客网 时间:2024/06/06 00:38
Windows上IDEA中运行SparkCore程序可能遇到的异常
-1. null/bin/winutils.exe
原因是:windows上配置配置好hadoop的环境
解决方案:按照文档进行配置("Windows环境中MR任务的三种运行方式.zip"),重启IDEA及电脑即可
-2. Exception in thread "main" org.apache.spark.SparkException: A master URL must be set in your configuration
原因是:代码中没有给定代码在哪儿运行
解决方案:在代码中明确给定在本地运行
val conf = new SparkConf()
.setMaster("local[*]")
val sc = new SparkContext(conf)
-3. Exception in thread "main" org.apache.spark.SparkException: An application name must be set in your configuration
原因是:代码中没有给定应用的名称
解决方案:在代码中明确给定应用名称
val conf = new SparkConf()
.setMaster("local[*]")
.setAppName("pv&uv")
val sc = new SparkContext(conf)
-4. (Windows系统上)出现类似NullPointerException异常,并且代码是正常的;可能原因是由于windows和linux之间的系统差异,导致windows上某些底层的api调用失败导致的问题
解决方案:修改对应的hadoop相关源码并将其添加到spark项目中==>call gerry
-1. null/bin/winutils.exe
原因是:windows上配置配置好hadoop的环境
解决方案:按照文档进行配置("Windows环境中MR任务的三种运行方式.zip"),重启IDEA及电脑即可
-2. Exception in thread "main" org.apache.spark.SparkException: A master URL must be set in your configuration
原因是:代码中没有给定代码在哪儿运行
解决方案:在代码中明确给定在本地运行
val conf = new SparkConf()
.setMaster("local[*]")
val sc = new SparkContext(conf)
-3. Exception in thread "main" org.apache.spark.SparkException: An application name must be set in your configuration
原因是:代码中没有给定应用的名称
解决方案:在代码中明确给定应用名称
val conf = new SparkConf()
.setMaster("local[*]")
.setAppName("pv&uv")
val sc = new SparkContext(conf)
-4. (Windows系统上)出现类似NullPointerException异常,并且代码是正常的;可能原因是由于windows和linux之间的系统差异,导致windows上某些底层的api调用失败导致的问题
解决方案:修改对应的hadoop相关源码并将其添加到spark项目中==>call gerry
阅读全文
0 0
- SparkCore程序可能遇到的异常
- 黑马程序员 java 可能遇到的异常
- sparkcore
- 创建JBPM web工程时可能遇到的异常
- 遇到异常:这可能是由某个扩展导致的
- 安卓开发里面可能遇到的空指针异常
- 遇到异常:这可能是由某个扩展导致的
- PHP的计数器程序---解决全部可能遇到的问题
- 第一个servlet小程序可能遇到的问题
- VS2012 异常 :遇到异常。这可能是由某个扩展导致的
- vs遇到异常,这可能是由某个拓展引起的的其他原因及解决办法
- Visual Studio 遇到了异常,这可能是由某个扩展所致的
- Microsoft Visual Studio 2010 遇到了异常,可能是由某个扩展导致的......
- VS2010 “Visual Studio 遇到了异常。这可能是由某个扩展导致的。”解决方法
- Visual Studio 遇到了异常。这可能是由某个扩展导致的
- Visual Studio 遇到了异常。这可能是由某个扩展导致的。
- Visual Studio 遇到了异常。这可能是由某个扩展导致的。
- Visual Studio 遇到了异常。这可能是由某个扩展导致的。
- LINUX新建和增加SWAP分区
- 如何利用抓包工具Fiddler抓取手机的包?
- 20_IO流
- 从零开始学电脑 1.3
- 多因子模型之组合构建与优化器(上)
- SparkCore程序可能遇到的异常
- Kotlin 协程(1)
- UIApplicationDelegate 里面最常用的几个函数执行顺序小结
- A Summary of 'Emotion in Reinforcement Learning Agents and Robots: A Survey'
- 21_IO流
- java.lang.ClassNotFoundException: org.apache.xbean.spring.context.v2.XBeanNamespaceHandler
- win7与ubuntu14.04双系统下修改默认启动项
- LaTex(PART VIII)文档类和页面布局相关
- 22_IO流