离线安装Cloudera Manager5.3.4与CDH5.3.4(二)

来源:互联网 发布:网站漏洞检测软件 编辑:程序博客网 时间:2024/05/21 08:47

Cloudera Manager Server和Agent都启动以后,就可以进行CDH5的安装配置了。
这时可以通过浏览器访问主节点的7180端口测试一下了(由于CM Server的启动需要花点时间,这里可能要等待一会才能访问),默认的用户名和密码均为admin。

制作本地源

先下载CDH到本地http://archive-primary.cloudera.com/cdh5/parcels/5.3.4/,

这里需要下载三样东西,
首先是与自己系统版本相对应的parcel包,然后是manifest.json文件。

CDH-5.2.0-1.cdh5.2.0.p0.12-el6.parcel、CDH-5.2.0-1.cdh5.2.0.p0.12-el6.parcel.sha1、manifest.json

下载完成后,将这两个文件放到master节点的/opt/cloudera/parcel-repo下(目录在安装Cloudera Manager 5时已经生成),注意目录一个字都不能错。

[root@hadoop1 parcel-repo]# pwd/opt/cloudera/parcel-repo[root@hadoop1 parcel-repo]# ll总用量 1533188-rw-r-----. 1 root root 1569930781 627 11:49 CDH-5.3.4-1.cdh5.3.4.p0.4-el6.parcel-rw-r--r--. 1 root root         41 627 11:49 CDH-5.3.4-1.cdh5.3.4.p0.4-el6.parcel.sha-rw-r--r--. 1 root root      42475 627 10:18 manifest.json

接下来打开manifest.json文件,里面是json格式的配置,我们需要的就是与我们系统版本相对应的hash码,因为我们用的是Centos6.5,所以找到如下位置:

在这个大括号的最下面找到“hash”所对应的值。

将“hash”的值复制下来,然后,将CDH-5.2.0-1.cdh5.2.0.p0.12-el6.parcel.sha1文件名改为CDH-5.2.0-1.cdh5.2.0.p0.12-el6.parcel.sha,将复制下来的hash值替换掉文本中的hash值,按理说应该是一致的。保存好了,这样,我们的本地源制作完成了。
然后的操作就是控制台按照步骤安装即可。

安装CDH

打开http://hadoop1:7180,登陆控制台,默认账户和密码都是admin,安装时选择免费版,之后由于cm5对中文的支持很强大,按照提示安装即可,如果系统配置有什么问题在安装过程中会有提示,根据提示给系统安装组件就可以了。

登录界面

选取安装版本

指定安装主机

选取本地Parcel包

接下来,出现以下包名,说明本地Parcel包配置无误,直接点继续就可以了。

集群安装

检查主机正确性

接下来是服务器检查,可能会遇到以下问题:

Cloudera 建议将 /proc/sys/vm/swappiness 设置为 0。当前设置为 60。使用 sysctl 命令在运行时更改该设置并编辑 /etc/sysctl.conf 以在重启后保存该设置。您可以继续进行安装,但可能会遇到问题,Cloudera Manager 报告您的主机由于交换运行状况不佳。以下主机受到影响:···

在会受到影响的主机上执行echo 0 > /proc/sys/vm/swappiness命令即可解决。

选择安装服务

集群角色分配

一般情况下保持默认就可以了(Cloudera Manager会根据机器的配置自动进行配置,如果需要特殊调整,自行进行设置就可以了)。

集群数据库设置

集群审查更改

如果没有其他需求保持默认配置。

终于到安装各个服务的地方了。
注意,这里安装Hive的时候可能会报错,因为我们使用了MySql作为hive的元数据存储,hive默认没有带mysql的驱动,通过以下命令拷贝一个就行了:

cp /opt/cm-5.3.4/share/cmf/lib/mysql-connector-java-5.1.25-bin.jar /opt/cloudera/parcels/CDH-5.3.4-1.cdh5.3.4.p0.12/lib/hive/lib/

之后再继续安装就不会遇到问题了。

经过漫长的等待后,服务的安装完成:

安装完成后,就可以进入集群界面看一下集群的当前状况了。

测试

[root@hadoop1 /]# su hdfs[hdfs@hadoop1 /]$ yarn jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar  pi 100 1000Number of Maps  = 100Samples per Map = 1000Wrote input for Map #0Wrote input for Map #1Wrote input for Map #2Wrote input for Map #3Wrote input for Map #4Wrote input for Map #5Wrote input for Map #6Wrote input for Map #7Wrote input for Map #8Wrote input for Map #9Wrote input for Map #10····15/06/27 22:45:55 INFO mapreduce.Job:  map 100% reduce 0%15/06/27 22:46:00 INFO mapreduce.Job:  map 100% reduce 100%15/06/27 22:46:01 INFO mapreduce.Job: Job job_1435378145639_0001 completed successfully15/06/27 22:46:01 INFO mapreduce.Job: Counters: 49        Map-Reduce Framework                Map input records=100                Map output records=200                Map output bytes=1800                Map output materialized bytes=3400                Input split bytes=14490                Combine input records=0                Combine output records=0                Reduce input groups=2                Reduce shuffle bytes=3400                Reduce input records=200                Reduce output records=0                Spilled Records=400                Shuffled Maps =100                Failed Shuffles=0                Merged Map outputs=100                GC time elapsed (ms)=3791                CPU time spent (ms)=134370                Physical memory (bytes) snapshot=57824903168                Virtual memory (bytes) snapshot=160584515584                Total committed heap usage (bytes)=80012115968        Shuffle Errors                BAD_ID=0                CONNECTION=0                IO_ERROR=0                WRONG_LENGTH=0                WRONG_MAP=0                WRONG_REDUCE=0        File Input Format Counters                Bytes Read=11800        File Output Format Counters                Bytes Written=97Job Finished in 50.543 secondsEstimated value of Pi is 3.14120000000000000000

查看mapreduce作业

检查Hue

首次登陆Hue会让设置一个初试的用户名和密码,设置好,登陆到后台,会做一次检查,一切正常后会提示。

到这里表明我们的集群可以使用了。

1 0
原创粉丝点击
热门问题 老师的惩罚 人脸识别 我在镇武司摸鱼那些年 重生之率土为王 我在大康的咸鱼生活 盘龙之生命进化 天生仙种 凡人之先天五行 春回大明朝 姑娘不必设防,我是瞎子 数学考差了怎么办 孩子考试成绩差该怎么办 大学高数听不懂怎么办 遇上自私的父母怎么办 小孩一年级数学不好怎么办 数学考试考不好怎么办 孩子奥数学不好怎么办 孩子下笔太重怎么办 小孩子写字太重怎么办 经常对小孩发火怎么办 对小孩发火后悔怎么办 小孩子不喜欢学数学怎么办? 孩子心里素质差怎么办 三年级语文太差怎么办 宝宝一年级很笨怎么办 一年级孩子太笨怎么办 孩子学习脑子笨怎么办 四年级孩子数学差怎么办 中考考不好了怎么办 初中没学高中怎么办 数学基础差该怎么办 三年级数学成绩差怎么办 夫妻差6岁怎么办 初一数学很差劲怎么办 三年级孩子成绩差怎么办 初中数学成绩不好怎么办 大人不会算数学怎么办 小学初数学不好怎么办 初中生数学计算能力差怎么办 初中生数学计算差怎么办 初一数学没救了怎么办 五年级英语不好怎么办 三年级孩子学习差怎么办 孩子三年级学习成绩差怎么办 三年级字写不好怎么办 7小孩表达能力差怎么办 孩子考了低分怎么办 初一考300分怎么办 小学三年级成绩不好怎么办 五年级考几分怎么办 思想晚熟的人怎么办