CDH5.5.0中配置运行Spark SQL的Thrift Server
来源:互联网 发布:食药局数据查询 编辑:程序博客网 时间:2024/05/16 10:31
CDH5.5.0里面阉割了spark-sql和sparkR,目录里面都没有start-thriftserver.sh,哪怕是spark Standalone部署。
但是问题来了,jdbc如何使用spark-sql?
Hive的配置里面有HiveServer2是开着的,如下:
插图:
很好,metastore也开着,beeline测试一下
beeline -u jdbc:hive2://192.168.100.11:10000/default -n hive
可以连接上。但是执行的sql,用的是MR,有木有搞错?
插图:那么我要用spark-sql咋办?
CDH5.3.2中配置运行Spark SQL的Thrift Server
http://blog.csdn.net/freedomboy319/article/details/46332009
这位仁兄给的办法不适用我的场景,但是启动thriftserver的方法是可以借鉴的。
为避免端口冲突,停掉Hive里面的 HiveServer2,或者在一台没有HiveServer2的节点上新开任务。
我是选择新的机器来测试,懒得搞hive-stie的配置了。
######################## --master yarn
cd $SPARK_HOME/sbin
./start-thriftserver.sh --master yarn
然后在窗口观察:4040端口和10000端口(默认配置10000端口)
插图:
然后用浏览器登录:ip:4040端口,自动跳转到yarn的Application UI上,观察:
插图:
插图:
######################## --master local
cd $SPARK_HOME/sbin
./start-thriftserver.sh --master local
0 0
- CDH5.5.0中配置运行Spark SQL的Thrift Server
- CDH5.3.2中配置运行Spark SQL的Thrift Server
- 通过Thrift Server使用JDBC来运行Spark SQL
- spark-thrift-server 执行spark-sql 的OOM GC异常.
- Spark SQL thrift server 部署
- spark sql thrift server搭建及踩过的坑
- Spark SQL读取Hive数据配置及使用Thrift JDBC/ODBC Server访问Spark SQL
- ambari中spark thrift server 挂掉
- Spark SQL和Spark Thrift Server安装部署
- cloudera cdh 5.11 编译 启动spark thrift server spark sql
- Spark-SQL--Thrift的安装及使用
- CDH5.x 使用Spark-sql
- spark SQL Running the Thrift JDBC/ODBC server
- spark SQL Running the Thrift JDBC/ODBC server
- spark thrift server kerberos 配置下show databases 报错
- [Spark]Django项目使用Spark(thrift-server)
- cdh5支持spark-sql cli怪招
- 大数据IMF传奇行动绝密课程第73课:Spark SQL Thrift Server实战
- spring中bean的基本xml配置
- ?
- 最全的常用正则表达式大全
- Android操作短信
- Storm并行度理解
- CDH5.5.0中配置运行Spark SQL的Thrift Server
- 学网站设计有感一
- 深度学习方面的论文整理
- OC中的数组操作2
- 重写 onCreateOptionsMenu(Menu menu) 方法,却不执行。
- JFreeChart中文API
- Mac 上安装app,提示“***已损坏,打不开。您应该将它移到废纸篓。”解决方案
- Python 学习
- Java输入输出流的使用详细介绍