cdh 中 spark 配置 lzo

来源:互联网 发布:网络未注册是什么意思 编辑:程序博客网 时间:2024/04/28 13:14

1,在cdh的spark页面 中添加如下配置:

spark-conf/spark-env.sh 的 Spark 服务高级配置代码段(安全阀):

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/native
export SPARK_LIBRARY_PATH=$SPARK_LIBRARY_PATH:/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/native
export SPARK_CLASSPATH=$SPARK_CLASSPATH:/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/*


2.yarn 添加配置;

yarn.app.mapreduce.am.admin.user.env 追加 :/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/native

yarn.application.classpath追加/opt/cloudera/parcels/HADOOP_LZO/lib/hadoop/lib/*

0 0
原创粉丝点击