Azkaban安装部署
来源:互联网 发布:淘宝代理退货怎么办 编辑:程序博客网 时间:2024/06/06 11:43
在root的用户下搭建的
• Azkaban安装部署(可参照:http://azkaban.github.io/azkaban/docs/latest/)
1):前提 安装JDK,安装Hadoop,Hive客户端环境
2):前提 安装 git 的命令 :apt-get install git
3):把github的azkaban源码下载
命令:git clone https://github.com/azkaban/azkaban.git
4)进入azkaban
然后命令: vim azkaban-common/src/main/java/azkaban/jobExecutor/ProcessJob.java
最后将final boolean isExecuteAsUser = this.sysProps.getBoolean(EXECUTE_AS_USER, true);
true修改false (修改它之后,下载五个不会出错)
进行azkaban路径
==》运行这句话会生成5个压缩包
命令:./gradlew distTar
azkaban-db-3.37.0-10-gdd67b02.tar.gz
azkaban-exec-server-3.37.0-10-gdd67b02.tar.gz
azkaban-hadoop-security-plugin-3.37.0-10-gdd67b02.tar.gz
azkaban-solo-server-3.37.0-10-gdd67b02.tar.gz
azkaban-web-server-3.37.0-10-gdd67b02.tar.gz
这个5包是分别放在azkaban-*/build/distributions/*下
是在当前azkaban文件夹下,那么先把5包拷贝出来,放到/opt/azkaban-jar文件夹
命令:cp azkaban-*/build/distributions/*.tar.gz /opt/azkaban-tar
把这五个包解压,然后重命令 ,把这个5包放到另外的路径下/opt/azkaban/
它们分别都在azkaban-db, azkaban-exec-server,azkaban-hadoop,azkaban-solo-server,azkaban-web-server
5):MySql
安装mysql命令: apt-get install mysql-server 密码 自定义
运行mysql的命令 : mysql -uroot -p
数据数据库命令 : create database azkaban;
打开某个数据库 : use azkaban;
将azkaban sql表结构导入mysql : source /opt/azkaban/azkaban-db/create-all-sql-3.37.0-10-gdd67b02.sql
6):部署 azkaban-web-server
将/opt/azkaban/azkaban-solo-server下的conf目录拷贝到/opt/azkaban/azkaban-web-server目录,
命令: cp -r /opt/azkaban/azkaban-solo-server/conf /opt/azkaban/azkaban-web-server/conf
配置azkaban.properties
azkaban.properties的配置 记得自己登录的mysql密码
配置log4j.properties
7):部署 azkaban-exec-server
将/opt/azkaban/azkaban-solo-server下的conf目录拷贝到/opt/azkaban/azkaban-exec-server目录,
命令: cp -r /opt/azkaban/azkaban-solo-server/conf /opt/azkaban/azkaban-exec-server/conf
配置azkaban.properties
配置log4j.properties
8):hadoop-common-2.8.1.jar,derby.jar
找到之前配置的hadoop文件夹 找到 hadoop-common-2.8.1.jar
配置hadoop文件夹路径/share/hadoop/common/路径找下找的 hadoop-common-2.8.1.jar
derby.jar
/usr/local/jdk1.8.0_144/db/lib/derby.jar
找到hadoop-common-2.8.1.jar和derby.jar包都拷贝到azkaban-exec-server和azkaban-web-server
安装目录下的extlib目录,没有则创建一个
找不到就下载
9):启动web-server和exec-server
进入azkaban-exec-server目录,执行bin/azkaban-executor-start.sh
进入azkaban-web-server目录,执行bin/azkaban-web-start.sh
启动成功否它都会产生进程
jetty ssl配置
jetty ssl keystore生成
keytool -genkey -keystore keystore -alias jetty-azkaban -keyalg RSA -validity 3560
根据提示输入相关信息,我的密码为besttone,和上面的password对应
keytool -export -alias jetty-azkaban -keystore keystore -rfc -file selfsignedcert.cer
过程中如果要输入密码,请输入之前密码
keytool -import -alias certificatekey -file selfsignedcert.cer -keystore truststore
这时候在web目录下新建key目录,将生成的keystore,truststore拷贝进去
通过http://localhost:8081可访问到web-ui,可以开始创建任务,
访问是需要的用户名密码在 azkaban-web-server/conf/azkaban-users.xml 配置
- Azkaban安装部署
- azkaban安装部署
- Azkaban安装部署
- Azkaban的安装与部署
- Azkaban 3.0 分布式安装部署文档
- Azkaban安装部署,配置文件配置,启动等
- Azkaban安装部署使用超详细
- Azkaban安装
- Azkaban安装
- azkaban安装
- azkaban的安装部署、使用与常见问题解决
- Azkaban安装与应用
- azkaban 3.0 编译安装
- azkaban 的安装
- azkaban安装使用
- azkaban安装使用
- Azkaban 3.X 安装
- azkaban安装与使用
- sed 详解
- Laravel入门教程(三)- 数据库操作 DB facade
- 用到的依赖包
- JSP <c:if>和<c:foreach>简单使用
- SocketChannel
- Azkaban安装部署
- dao
- 外部类——MyAdapter
- 关于C++ 基本常见问题 无法打开包括文件:“iostream.h”: No such file or directory” [Error] '::main' must return 'int
- 如何使用MYSQL TIMESTAMP字段进行时间加减运算
- Android-框架-The Clean Architecture
- 图像处理中的一阶导数与二阶导数
- PHP实现国密算法SM4
- SpringMVC处理XML和JSON遇到的问题及解决