flink快速入门及采坑记录
来源:互联网 发布:朗文英英词典 mac 编辑:程序博客网 时间:2024/05/16 09:11
apache flink作为第四代mapreduce计算框架,已经得到越来越多的应用,这里介绍如何快速入门,以及记录一个内存错误的问题。
1、安装jdk
2、下载flink,并解压。
wget https://mirrors.tuna.tsinghua.edu.cn/apache/flink/flink-1.3.2/flink-1.3.2-bin-hadoop27-scala_2.11.tgz
3、运行报错,修改参数运行正常。(如果虚拟机内存1G,会报内存不足的错误)
bin/start-local.sh
启动之后发现没有java进程,查看日志输出,发现Cannot allocate memoery,可以确定是由于内存不足导致的。
Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00000000aaaa0000, 1431699456, 0) failed; error='Cannot allocate memory' (errno=12)## There is insufficient memory for the Java Runtime Environment to continue.# Native memory allocation (mmap) failed to map 1431699456 bytes for committing reserved memory.# An error report file with more information is saved as:# /root/flink-1.3.2/hs_err_pid11115.log
查看内存不足的错误日志hs_err_pid11115.log,发现jvm参数设置超过虚拟机最大内存。
jvm_args: -Xms2048m -Xmx2048m -Dlog.file=/root/flink-1.3.2/log/flink-root-jobmanager-0-buejee.log -Dlog4j.configuration=file:/root/flink-1.3.2/conf/log4j.properties -Dlogback.configurationFile=file:/root/flink-1.3.2/conf/logback.xmljava_command: org.apache.flink.runtime.jobmanager.JobManager --configDir /root/flink-1.3.2/conf --executionMode localjava_class_path (initial): /root/flink-1.3.2/lib/flink-python_2.11-1.3.2.jar:/root/flink-1.3.2/lib/flink-shaded-hadoop2-uber-1.3.2.jar:/root/flink-1.3.2/lib/log4j-1.2.17.jar:/root/flink-1.3.2/lib/slf4j-log4j12-1.7.7.jar:/root/flink-1.3.2/lib/flink-dist_2.11-1.3.2.jar:::Launcher Type: SUN_STANDARD
看到jvm参数默认设置最小内存最大内存均是2g,需要修改conf/flink-conf.yml,默认job.manager.heap.mb: 1024,taskmanager.heap.mb: 1024,将他们均改为512。
# The heap size for the JobManager JVMjobmanager.heap.mb: 512# The heap size for the TaskManager JVMtaskmanager.heap.mb: 512
正常启动的截图
这时候可以通过访问http://ip:8081,来查看flink可视化界面。
通过netcat工具监听9000端口,如果系统没有nc命令,可以通过yum install nc -y来安装。
运行任务
查看结果
阅读全文
0 0
- flink快速入门及采坑记录
- Flink学习笔记:1、Flink快速入门
- Tomcat采坑记录
- Flink on Yarn快速入门
- Flink on YARN快速入门指南
- Flink之二 Flink安装及入门案例
- mac brew 安装pip3 采坑记录
- angular4.0项目采坑记录
- Flink 入门
- spring boot ant风格路径表达式的采坑记录
- Flink快速上手
- Flink学习记录(一)
- Apache Flink:详细入门
- Apache Flink:详细入门
- Apache Flink:详细入门
- Apache Flink:详细入门
- SwipeRefreshLayout采坑笔记
- ndk采坑
- jni生成头文件命令符
- 蓝桥杯 算法训练 4-1打印下述图形
- 散列
- 1008. Elevator (20)
- LeetCode-Next Greater Element I
- flink快速入门及采坑记录
- Leetcode解题笔记 63. Unique Paths II [Medium] 动态规划
- Mac 系统 终端打开文件夹
- eclipse发布项目相关整理
- 高并发的优化
- 基于contextMenu的右键菜单完整demo
- mac命令大全
- 在L0版本手机在自动灭屏前会先闪一下屏再灭屏
- 20171206memo