简略Spark输出
来源:互联网 发布:mysql有什么用知乎 编辑:程序博客网 时间:2024/06/01 21:53
http://blog.jobbole.com/86232/
Spark(和PySpark)的执行可以特别详细,很多INFO日志消息都会打印到屏幕。开发过程中,这些非常恼人,因为可能丢失Python栈跟踪或者print的输出。为了减少Spark输出 – 你可以设置
~$ cp $SPARK_HOME/conf/log4j.properties.template $SPARK_HOME/conf/log4j.properties
编辑新文件,用WARN替换代码中出现的INFO。你的log4j.properties文件类似:
# Set everything to be logged to the console log4j.rootCategory=WARN, console log4j.appender.console=org.apache.log4j.ConsoleAppender log4j.appender.console.target=System.err log4j.appender.console.layout=org.apache.log4j.PatternLayout log4j.appender.console.layout.ConversionPattern=%d{yy/MM/dd HH:mm:ss} %p %c{1}: %m%n# Settings to quiet third party logs that are too verbose log4j.logger.org.eclipse.jetty=WARN log4j.logger.org.eclipse.jetty.util.component.AbstractLifeCycle=ERROR log4j.logger.org.apache.spark.repl.SparkIMain$exprTyper=WARN log4j.logger.org.apache.spark.repl.SparkILoop$SparkILoopInterpreter=WARN
0 0
- 简略Spark输出
- spark 多目录输出
- spark多路输出
- spark多文件输出
- 编译spark输出的信息
- Spark多文件输出(MultipleOutputFormat)
- Spark多文件输出(MultipleTextOutputFormat)
- Spark 用户日志输出解析
- spark streaming 接收 scoket 输出
- Spark 控制输出信息等级
- Spark多文件输出(MultipleTextOutputFormat)
- spark 应用输出debug日志
- Spark配置log4j日志输出
- Hadoop,Spark :文件输出压缩
- ibatis简略
- node简略
- static简略
- XML简略
- 文章标题
- velocity例子
- 堆分配存储的串的表示和实现
- FindBugs规则整理(转载)
- 【Java】(1)Base64加密技术
- 简略Spark输出
- POJ 1416 Shredding Company(简单DFS)
- KafkaFlume-联合配置数---据源是Syslog
- NoSql——mongoDB(分片)
- 九度oj 1056
- CheckStyle的检查规则(共138条规则)
- 中小电商网站提升流量法:SEO优化详解
- 机器学习&深度学习
- Linux环境中程序的始终