Storm单机部署方案---原创

来源:互联网 发布:sql2005恢复数据库 编辑:程序博客网 时间:2024/05/23 01:58
1、需要安装包:
安装JDK开发环境

zookeeper集群zeromqjzmqpython(也可以选择不安装python)unzip

前提:安装好jdk。

下载jdk

http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html


  ff


安装jdk

mkdir  -p  usr/lib/java

解压 tar -xvf  jdk-u760

打开 vim ~/.bashrc

配置路径

export    JAVA_HOME=:~/usr/lib/java/jdk1.7.0_79(路径不对,前面的:,不应该有,但不知道为什么)
export   JRE_HOME=${JAVA_HOME}/jre
export   CLASS_PATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export   PATH=${JAVA_HOME}/bin:$PATH

使路径生效

source  ~/.bashrc


安装依赖的库文件

sudo apt-get install libtool

sudo apt-get install autoconf

sudo apt-get install automake

sudo apt-get install g++

sudo apt-get install uuid-dev

sudo apt-get install uuid

sudo apt-get install e2fsprogs

sudo apt-get install python


2、zookeeper集群

下载地址:

第二步,安装zookeeper   
wget http://labs.mop.com/apache-mirror/zookeeper/zookeeper-3.3.5/zookeeper-3.3.5.tar.gz
tar -zxvf zookeeper-3.3.5.tar.gz 
cp -R zookeeper-3.3.5 /usr/local/
ln -s /usr/local/zookeeper-3.3.5/ /usr/local/zookeeper
vim /etc/profile (设置ZOOKEEPER_HOME和ZOOKEEPER_HOME/bin) 
export ZOOKEEPER_HOME="/path/to/zookeeper"
export PATH=$PATH:$ZOOKEEPER_HOME/bin
cp /usr/local/zookeeper/conf/zoo_sample.cfg /usr/local/zookeeper/conf/zoo.cfg (用zoo_sample.cfg制作$ZOOKEEPER_HOME/conf/zoo.cfg)
mkdir /tmp/zookeeper

mkdir /var/log/zookeeper


3、Zeromq

下载地址:

http://download.zeromq.org/zeromq-2.2.0.tar.gz
tar zxvf zeromq-2.2.0.tar.gz
mv zeromq-2.2.0 zeromq
cd zeromq
./configure
make

make install


第三步,安装zeromq以及jzmq
jzmq的安装貌似是依赖zeromq的,所以应该先装zeromq,再装jzmq。
1)安装zeromq:
wget http://download.zeromq.org/zeromq-2.2.0.tar.gz
tar zxf zeromq-2.2.0.tar.gz 
cd zeromq-2.2.0
./configure
make
make install
sudo ldconfig (更新LD_LIBRARY_PATH)
zeromq安装完成。
注意:如有有依赖报错,需要安装:
jzmq dependencies 依赖包
sudo yum install uuid*
sudo yum install libtool
sudo yum install libuuid 
sudo yum install libuuid-devel


2)安装jzmq
apt-get  install git 
git clone git://github.com/nathanmarz/jzmq.git
cd jzmq
./autogen.sh
./configure(不能使用管理员命令)
make
make install
然后,jzmq就装好了.
注意:在./autogen.sh这步如果报错:autogen.sh:error:could not find libtool is required to run autogen.sh,这是因为缺少了libtool,可以用#yum install libtool*来解决。

两个安装时的错误修正方法
(1).make[1]: *** 没有规则可以创建“org/zeromq/ZMQ.class”需要的目标“classdist_noinst.stamp”。 停止
   修正方法,创建classdist_noinst.stamp文件,

[plain] view plaincopy
  1. touch src/classdist_noinst.stamp  
(2).错误:无法访问 org.zeromq.ZMQ
  修正方法,进入src目录,手动编译相关java代码

[plain] view plaincopy
  1. javac -d . org/zeromq/*.java  


第四步,安装Storm
wget http://cloud.github.com/downloads/nathanmarz/storm/storm-0.8.1.zip
unzip storm-0.8.1.zip
mv storm-0.8.1 /usr/local/
ln -s /usr/local/storm-0.8.1/ /usr/local/storm
vim /etc/profile
export STORM_HOME=/usr/local/storm-0.8.1
export PATH=$PATH:$STORM_HOME/bin


修改storm.yaml配置文件 

文件在/usr/local/storm/conf/storm.yaml内容:输入如下内容
 storm.zookeeper.servers:
     - 127.0.0.1 
 storm.zookeeper.port: 2181 
 nimbus.host: "127.0.0.1" 
 storm.local.dir: "/tmp/storm" 
 supervisor.slots.ports:
  - 6700
  - 6701
  - 6702
  - 6703


第五步,安装ZooKpeeper

进入解压后的ZooKpeeper文件中,将文件./conf/zoo_sample.cfg重命名为./conf/zoo.cfg.运行一下命令启动ZooKpeeper

bin/zkServer.sh start

然后检查ZooKeeper是否启动成功,此时先执行如下命令:

bin/zkCli.sh -server 127.0.0.1:2181

此时会出现一个交互窗口,在其中运行ls /


第六步,启动strom

进入解压后的strom文件夹的bin目录,依次执行一下命令启动守护进程Nimbus、SuperVisor以及UI:

./storm nimbus  &

./storm supervisor  &

./storm ui  &

等待命令执行完成后,打开浏览器输入http://localhost:8080

此时看到Strom UI界面。


运行统计任务:

storm jar./examples/storm-starter/storm-starter-topologies-0.9.5.jar storm.starter.WordCountTopology test

 文件路径:(./examples/storm-starter/storm-starter-topologies-0.9.5.jar )



0 0
原创粉丝点击