logstash 安装导入mysql数据至ElasticSearch

来源:互联网 发布:资本流入本币升值知乎 编辑:程序博客网 时间:2024/05/24 06:25

0:安装好ElasticSearch

1:然后解压 logstash安装包 unzip  logstash-5.4.0.zip

2:安装logstash-input-jdbc 插件(版本5X以上直接安装,5以下的搞了半天没搞出来直接升级版本了):  sudo bin/plugin install logstash-input-jdbc

3:新建数据库,并添加增量测试数据CREATE TABLE `city` (
  `id` int(11) unsigned NOT NULL AUTO_INCREMENT,
  `description` varchar(12) DEFAULT NULL,
  `province_id` int(11) DEFAULT NULL,
  `city_name` varchar(12) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=5 DEFAULT CHARSET=utf8;

4:在logstash config下新建jdbc.conf:

input {
    jdbc {
        jdbc_driver_library =>"/Users/sunwenlong/Downloads/other/es5.4/mysqldriver/mysql-connector-java-5.1.45-bin.jar"
        jdbc_driver_class =>"com.mysql.jdbc.Driver"
        jdbc_connection_string =>"jdbc:mysql://127.0.0.1:3305/springbootdb?characterEncoding=UTF-8&useSSL=false"
        jdbc_user =>"root"
jdbc_password =>"123456"
        #schedule =>"* * * * *"
        #jdbc_default_timezone =>"Asia/Shanghai"
        statement =>"SELECT * FROM city"
    }
}
output {
    elasticsearch {
        index =>"test_city_index"
        document_type =>"test_city_type"
        document_id =>"%{id}"
template_overwrite => true
        hosts =>["127.0.0.1:9200"]
    }
}

5:执行命令启动:./bin/logstash -f ./config/jdbc.conf 即可

6:地址栏访问http://127.0.0.1:9200/test_city_index/test_city_type/1即可查看相关数据

(mysql相关包在下和logstash官网下载即可)

阅读全文
'); })();
0 0
原创粉丝点击
热门IT博客
热门问题 老师的惩罚 人脸识别 我在镇武司摸鱼那些年 重生之率土为王 我在大康的咸鱼生活 盘龙之生命进化 天生仙种 凡人之先天五行 春回大明朝 姑娘不必设防,我是瞎子 江苏省宿迁市穷吗 宿迁市属于哪个省 宿迁市公共资源交易中心 宿迁市人民医院 江苏宿迁市 宿迁高铁站详细线路图 宿迁娃哈哈招聘信息 宿迁考试鉴定网报名入口 景点婺源 宿醉4 宿涵夜的第七章 清华博士宿涵家庭背景 夜的第七章宿涵 宿雨涵 宿青平 寂照庵游玩攻略 云南寂照庵 寂照庵的来由 就让我寂寞吧 妇女寂寞 寂寞护士 寂寞小护士 寂寞妇女 寂寞啊寂寞 女生寂寞 寂寞是 的寂寞 歌词寂寞寂寞 的是寂寞 当寂寞遇到寂寞 女人寂寞了 寂寞啊寂寞歌词 寂寞女子 寂寞单身女人 找附近寂寞的女人 2018寂寞女本人电话号码 农家有娇女 寂寞的清泉 农家有娇女寂寞的清泉 农家娇女寂寞的清泉 寂寞的清泉农家娇女 农家娇女 寂寞的清泉