Hadoop常用端口号

来源:互联网 发布:淘宝商家客服兼职 编辑:程序博客网 时间:2024/06/05 10:51
Hadoop集群的各部分一般会用到多个端口,有些事daemon之间进行交互之用,有些事用于RPC访问以及HTTP访问。而随着Hadoop周边组件的增多,完全记不住哪个端口对应哪个应用,特收集记录如此,以便查询。
这里包含使用的组件:HDFS、YARN、HBase、Hive、Zookeeper:

组件节点默认端口配置用途说明HDFSDateNode50010dfs.datanode.address
datanode服务端口,用于数据传输HDFS
DateNode
50075dfs.datanode.http.address
http服务的端口HDFS
DateNode
50475dfs.datanode.https.address
http服务的端口
HDFS
DateNode
50020dfs.datanode.ipc.address
ipc服务的端口
HDFS
NameNode50070dfs.namenode.http-address
http服务的端口
HDFS
NameNode
50470dfs.namenode.https-address
https服务的端口
HDFSNameNode
8020fs.defaultFS
接收Client连接的RPC端口,用于获取文件系统metadata信息。
HDFS
journalnode
8485dfs.journalnode.rpc-address
RPC服务
HDFS
journalnode
8480dfs.journalnode.http-address
HTTP服务
HDFS
ZKFC8019dfs.ha.zkfc.port
ZooKeeper FailoverController,用于NN HA
YARNResourceManage
8032yarn.resourcemanager.address
RM的applications manager(ASM)端口
YARN
ResourceManage
8030yarn.resourcemanager.scheduler.address
scheduler组件的IPC端口
YARN
ResourceManage
8031yarn.resourcemanager.resource-tracker.address
IPC
YARN
ResourceManage
8033yarn.resourcemanager.admin.address
IPC
YARN
ResourceManage
8088yarn.resourcemanager.webapp.address
http服务端口
YARN
NodeManager
8040yarn.nodemanager.localizer.address
localizer IPC
YARN
NodeManager
8042yarn.nodemanager.webapp.address
http服务端口
YARN
NodeManager
8041yarn.nodemanager.address
NM中container manager的端口
YARN
JobHistory Server
10020mapreduce.jobhistory.address
IPC
YARN
JobHistory Server
19888mapreduce.jobhistory.webapp.address
http服务端口
HBaseMaster
60000hbase.master.port
IPC
HBase
Master
60010hbase.master.info.port
http服务端口
HBase
RegionServer
60020hbase.regionserver.port
IPCHBase
RegionServer
60030hbase.regionserver.info.port
http服务端口
HBase
HQuorumPeer
2181hbase.zookeeper.property.clientPort
HBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口。
HBase
HQuorumPeer
2888hbase.zookeeper.peerport
HBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口。
HBase
HQuorumPeer
3888hbase.zookeeper.leaderport
HBase-managed ZK mode,使用独立的ZooKeeper集群则不会启用该端口。
HiveMetastore
9085/etc/default/hive-metastore中export PORT=<port>来更新默认端口

Hive
HiveServer
10000/etc/hive/conf/hive-env.sh中export HIVE_SERVER2_THRIFT_PORT=<port>来更新默认端口

ZooKeeper
Server
2181/etc/zookeeper/conf/zoo.cfg中clientPort=<port>
对客户端提供服务的端口
ZooKeeper
Server
2888/etc/zookeeper/conf/zoo.cfg中server.x=[hostname]:nnnnn[:nnnnn],标蓝部分
follower用来连接到leader,只在leader上监听该端口
ZooKeeper
Server
3888/etc/zookeeper/conf/zoo.cfg中server.x=[hostname]:nnnnn[:nnnnn],标蓝部分
用于leader选举的。只在electionAlg是1,2或3(默认)时需要










0 0