cdh 中 spark 配置 lzo
来源:互联网 发布:网络未注册是什么意思 编辑:程序博客网 时间:2024/04/28 13:14
1,在cdh的spark页面 中添加如下配置:
spark-conf/spark-env.sh 的 Spark 服务高级配置代码段(安全阀):
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/native
export SPARK_LIBRARY_PATH=$SPARK_LIBRARY_PATH:/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/native
export SPARK_CLASSPATH=$SPARK_CLASSPATH:/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/*
2.yarn 添加配置;
yarn.app.mapreduce.am.admin.user.env 追加 :/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/native
yarn.application.classpath追加/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/*
0 0
- cdh 中 spark 配置 lzo
- CDH-LZO配置
- CDH 里面配置spark-sql
- 配置社区版spark运行在cdh yarn
- CDH中配置HDFS HA、Hbase HA
- CDH中服务的配置及启动
- CDH集群中YARN的参数配置
- CDH集群中配置Yarn资源
- CDH中 Apache Kylin使用spark引擎构建Cube
- cdh 安装 spark 2.1
- hbase配置lzo压缩
- hadoop再次配置lzo
- CDH5 配置LZO
- HBase配置LZO压缩
- hadoop lzo配置
- hadoop中安装lzo
- hive中使用lzo
- 一步一步完成如何在现有的CDH集群中部署一个与CDH版本不同的spark
- 打印方格
- 思科VPP源码分析(Bihash分析)
- Spring Boot24 之 监控和管理生产环境
- [ROS]如何建立Navigation Stack
- react native内存优化
- cdh 中 spark 配置 lzo
- ios 让APP一直亮屏
- 设计模式--单例模式
- 查看CentOS的CPU内存信息及操作系统的版本信息
- LeetCode: 4Sum
- 不需要jdk的eclipse
- 戏(细)说Executor框架线程池任务执行全过程(上)
- 每天一个linux命令:at命令
- [LP对偶费用流] BZOJ 3112 [Zjoi2013]防守战线