windows 10 安装 spark 环境(spark 2.2.1 + hadoop2.7)

来源:互联网 发布:在哪看java的api文档 编辑:程序博客网 时间:2024/05/29 12:57

安装步骤基本参考 Spark在Windows下的环境搭建。不过在安装新版本 spark2.2.1(基于 hadoop2.7)的配置时,略略有一些不同。

1. sqlContext => spark.sqlContext

在启动日志中未出现,SQL context available as sqlContext.也不足为奇,因为在新版本的 spark 中 sqlContext 对象已封装进 Spark session,也即 spark-shell 中的 spark 下。


这里写图片描述

2. winutils.exe

为虚拟文件夹 /tmp/hive 修改权限时,应使用 winutils.exe 的绝对路径,如:

D:\Program Files\hadoop\bin\winutils.exe chmod 777 /tmp/hive