Storm单机部署方案---原创
来源:互联网 发布:sql2005恢复数据库 编辑:程序博客网 时间:2024/05/23 01:58
安装JDK开发环境
zookeeper集群,zeromq,jzmq,python(也可以选择不安装python)、unzip
前提:安装好jdk。
下载jdk
http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html
安装jdk
mkdir -p usr/lib/java
解压 tar -xvf jdk-u760
打开 vim ~/.bashrc
配置路径
export JAVA_HOME=:~/usr/lib/java/jdk1.7.0_79(路径不对,前面的:,不应该有,但不知道为什么)
export JRE_HOME=${JAVA_HOME}/jre
export CLASS_PATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
使路径生效
source ~/.bashrc
安装依赖的库文件
sudo apt-get install libtool
sudo apt-get install autoconf
sudo apt-get install automake
sudo apt-get install g++
sudo apt-get install uuid-dev
sudo apt-get install uuid
sudo apt-get install e2fsprogs
sudo apt-get install python
2、zookeeper集群
下载地址:
第二步,安装zookeeperwget http://labs.mop.com/apache-mirror/zookeeper/zookeeper-3.3.5/zookeeper-3.3.5.tar.gz
tar -zxvf zookeeper-3.3.5.tar.gz
cp -R zookeeper-3.3.5 /usr/local/
ln -s /usr/local/zookeeper-3.3.5/ /usr/local/zookeeper
vim /etc/profile (设置ZOOKEEPER_HOME和ZOOKEEPER_HOME/bin)
export ZOOKEEPER_HOME="/path/to/zookeeper"
export PATH=$PATH:$ZOOKEEPER_HOME/bin
cp /usr/local/zookeeper/conf/zoo_sample.cfg /usr/local/zookeeper/conf/zoo.cfg (用zoo_sample.cfg制作$ZOOKEEPER_HOME/conf/zoo.cfg)
mkdir /tmp/zookeeper
mkdir /var/log/zookeeper
3、Zeromq
下载地址:
http://download.zeromq.org/zeromq-2.2.0.tar.gztar zxvf zeromq-2.2.0.tar.gz
mv zeromq-2.2.0 zeromq
cd zeromq
./configure
make
make install
第三步,安装zeromq以及jzmq
jzmq的安装貌似是依赖zeromq的,所以应该先装zeromq,再装jzmq。
1)安装zeromq:
wget http://download.zeromq.org/zeromq-2.2.0.tar.gz
tar zxf zeromq-2.2.0.tar.gz
cd zeromq-2.2.0
./configure
make
make install
sudo ldconfig (更新LD_LIBRARY_PATH)
zeromq安装完成。
注意:如有有依赖报错,需要安装:
jzmq dependencies 依赖包
sudo yum install uuid*
sudo yum install libtool
sudo yum install libuuid
sudo yum install libuuid-devel
2)安装jzmq
apt-get install git
git clone git://github.com/nathanmarz/jzmq.git
cd jzmq
./autogen.sh
./configure(不能使用管理员命令)
make
make install
然后,jzmq就装好了.
注意:在./autogen.sh这步如果报错:autogen.sh:error:could not find libtool is required to run autogen.sh,这是因为缺少了libtool,可以用#yum install libtool*来解决。
两个安装时的错误修正方法
(1).make[1]: *** 没有规则可以创建“org/zeromq/ZMQ.class”需要的目标“classdist_noinst.stamp”。 停止
修正方法,创建classdist_noinst.stamp文件,
- touch src/classdist_noinst.stamp
修正方法,进入src目录,手动编译相关java代码
- javac -d . org/zeromq/*.java
第四步,安装Storm
wget http://cloud.github.com/downloads/nathanmarz/storm/storm-0.8.1.zip
unzip storm-0.8.1.zip
mv storm-0.8.1 /usr/local/
ln -s /usr/local/storm-0.8.1/ /usr/local/storm
vim /etc/profile
export STORM_HOME=/usr/local/storm-0.8.1
export PATH=$PATH:$STORM_HOME/bin
修改storm.yaml配置文件
文件在/usr/local/storm/conf/storm.yaml内容:输入如下内容
storm.zookeeper.servers:
- 127.0.0.1
storm.zookeeper.port: 2181
nimbus.host: "127.0.0.1"
storm.local.dir: "/tmp/storm"
supervisor.slots.ports:
- 6700
- 6701
- 6702
- 6703
第五步,安装ZooKpeeper
进入解压后的ZooKpeeper文件中,将文件./conf/zoo_sample.cfg重命名为./conf/zoo.cfg.运行一下命令启动ZooKpeeper
bin/zkServer.sh start
然后检查ZooKeeper是否启动成功,此时先执行如下命令:
bin/zkCli.sh -server 127.0.0.1:2181
此时会出现一个交互窗口,在其中运行ls /
第六步,启动strom
进入解压后的strom文件夹的bin目录,依次执行一下命令启动守护进程Nimbus、SuperVisor以及UI:
./storm nimbus &
./storm supervisor &
./storm ui &
等待命令执行完成后,打开浏览器输入http://localhost:8080
此时看到Strom UI界面。
运行统计任务:
storm jar./examples/storm-starter/storm-starter-topologies-0.9.5.jar storm.starter.WordCountTopology test
文件路径:(./examples/storm-starter/storm-starter-topologies-0.9.5.jar )
- Storm单机部署方案---原创
- Storm单机部署方案2
- Storm单机部署
- storm单机环境部署
- storm单机环境部署
- flume+kafka+storm单机部署
- Storm单机环境部署文档
- Storm之——单机环境部署
- MySQL单机多实例方案部署
- 流式分布式系统Storm安装与部署-单机版
- 在线实时大数据平台Storm单机部署
- HADOOP2.6.0在单机上的部署(部分原创)
- storm安装 - 单机安装
- Storm 单机版安装
- storm 单机版安装
- Storm单机版安装
- Storm单机环境配置
- Storm单机环境配置
- c++ 栈对象的empty和size
- Linux常用Command(2)
- easyui tab之自动生成带datagrid的Tab页
- struts2中constant参数设置
- 基于datepicker的只选择年月的日期选择器
- Storm单机部署方案---原创
- sprintf函数的用法以及各种宏定义
- Android开发自学笔记(Android Studio1.3.1)—1.环境搭建
- 整理一下今天的收获(getSharePreferences的使用,解决在非onCreate方法中无法使用的情况)
- Bluetooth协议栈
- 纯 AS3 将图片转换为 SWF(转自同行“古树悬叶”的博客)
- 实现一个EditText中间有字,字两边都可点击触发事件的效果
- 堆和栈的区别
- Android Https相关完全解析 当OkHttp遇到Https