windows 10 安装 spark 环境(spark 2.2.1 + hadoop2.7)
来源:互联网 发布:在哪看java的api文档 编辑:程序博客网 时间:2024/05/29 12:57
安装步骤基本参考 Spark在Windows下的环境搭建。不过在安装新版本 spark2.2.1(基于 hadoop2.7)的配置时,略略有一些不同。
1. sqlContext => spark.sqlContext
在启动日志中未出现,SQL context available as sqlContext.
也不足为奇,因为在新版本的 spark 中 sqlContext 对象已封装进 Spark session,也即 spark-shell 中的 spark 下。
2. winutils.exe
为虚拟文件夹 /tmp/hive 修改权限时,应使用 winutils.exe 的绝对路径,如:
D:\Program Files\hadoop\bin\winutils.exe chmod 777 /tmp/hive
阅读全文
0 0
- windows 10 安装 spark 环境(spark 2.2.1 + hadoop2.7)
- windows下安装spark环境
- windows环境下安装spark
- Windows 10 安装spark
- 在hadoop2.4集群环境下安装spark
- Hadoop2.6.4伪分布式环境及Spark、Intellij IDEA安装
- Windows下单机安装Spark开发环境
- Windows下单机安装Spark开发环境
- Windows下单机安装Spark开发环境
- Windows下单机安装Spark开发环境
- windows 下单机安装Spark开发环境
- windows在IDEA环境运行spark程序(spark安装在另一台mac机器)
- Spark环境搭建-windows
- Windows环境下配置python spark(windows7+python+spark)
- spark之hadoop2.6环境搭建笔记
- Spark Streaming 实战(1)搭建kafka+zookeeper+spark streaming 的windows本地开发环境
- 【Spark系列1】Windows下Spark单机版的安装
- spark windows 单机 安装
- java开发遭遇瓶颈
- mysql:mysql is neither service nor target!?(suse12 sp2 )
- 20171219
- Large Kernel Matters —— Improve Semantic Segmentation by Global Convolutional Network论文阅读
- 条件语句-“平面骰子”-时间模块-随机模块
- windows 10 安装 spark 环境(spark 2.2.1 + hadoop2.7)
- snprintf()和sprintf()学习
- pow
- 吴恩达deeplearning之结构化机器学习—策略(2)
- 学以致用——使用相关系数分析CSDN发表文章概要数据间的相关程度
- 抛掷方法
- 初学单片机需要注意的几个方面
- 学JavaScript遇到的问题
- 数据库索引