flume+kafka+storm+redis/mysql启动命令记录
来源:互联网 发布:西安79家网络诈骗公司 编辑:程序博客网 时间:2024/05/16 15:47
1.flume启动
bin/flume-ng agent --conf conf --conf-file conf/flume-conf.properties --name fks -Dflume.root.logger=INFO,console
2.启动kafka
[root@Cassandra kafka]# bin/zookeeper-server-start.sh config/zookeeper.properties&
[root@Cassandra kafka]# bin/kafka-server-start.sh config/server.properties &
3.启动storm
3台机器分别启动zookeeper
1master启动:bin/storm nimbus&
bin/storm ui&
2slave启动:bin/storm supervisor&
启动topology:storm jar tools/Storm4.jar com.qihoo.datacenter.step7kafka2redis.Kafka2RedisTopology flume2redis
4.启动redis
src/redis-server
在前端flume的机器指定文件夹中拷贝进文件,redis已更新
storm jar tools/Storm4.jar com.qihoo.datacenter.step3tomysql.ToMysqlTopology tomysql
storm jar tools/Storm4.jar com.qihoo.datacenter.step7kafka2redis.Kafka2RedisTopology flume2redis
# fks : flume kafka storm integration
fks.sources=r1
fks.sinks=k1
fks.channels=c1
# configure r1
fks.sources.r1.type=spooldir
fks.sources.r1.spoolDir=/data/flumeread
fks.sources.r1.fileHeader = false
# configure k1
fks.sinks.k1.type=com.qihoo.datacenter.sink.KafkaSink
# configure c1
fks.channels.c1.type=file
fks.channels.c1.checkpointDir=/data/flumewrite/example_fks_001
fks.channels.c1.dataDirs=/data/flumewrite2/example_fks_001
# bind source and sink
fks.sources.r1.channels=c1
fks.sinks.k1.channel=c1
- flume+kafka+storm+redis/mysql启动命令记录
- flume+kafka+storm+mysql
- flume+kafka+storm+mysql 数据流
- flume+kafka+storm+mysql 数据流
- flume+kafka+storm+redis+mongodb日志优化
- flume+kafka+storm+redis+mongodb 配置
- flume+kafka+redis+storm分析系统架构
- D21 flume/kafka/storm/redis综合
- Storm/kafka/flume运维命令
- flume+kafka+storm+mysql架构设计
- flume+kafka+storm+mysql架构设计
- flume+kafka+storm+mysql架构设计
- flume+kafka+storm+mysql架构设计
- flume+kafka+storm+mysql架构设计
- flume+kafka+storm+mysql架构设计
- flume+kafka+storm+mysql架构设计
- flume+kafka+storm+mysql架构设计
- flume+kafka+storm
- 【多线程】秒杀多线程面试题目
- mysql性能优化-慢查询分析、优化索引和配置
- 恢复控制文件故障详细步骤
- Ubuntu NTFS文件系统下没有执行权限的问题
- 处理百万级以上的数据处理
- flume+kafka+storm+redis/mysql启动命令记录
- 快速排序
- PB中扩展嵌套结构
- NFC:Arduino、Android与PhoneGap近场通信
- 用smo 生成sql server 2012 中 AdventureWorks2012表定义脚本 排除PropertyNotSetException
- LRU Cache
- onvif学习
- PHP工程师面临的成长瓶颈
- 第四章Oracle恢复内部原理(热备份)