Shell 统计PV, UV ,独立IP
来源:互联网 发布:java 100以内素数 编辑:程序博客网 时间:2024/05/01 04:01
每天分析日志的哥们实在伤不起,经常需要给出PV,UV,独立IP等一些统计值,使用C/C++,java都可以写,过程是这样的,先读取文件,逐行扫描,把能标记的值放入数据结构中,排重得出最终结果,其实Linux本身有很强大的文本处理功能,完全可以用shell + 一些文本小工具得出结果。
Nngix输出的access log文件如下:
日志文件代码
- 192.168.1.166 - - 119272312 [05/Nov/2011:16:06:59 +0800] "GET /index.html HTTP/1.1" 200 370 "http://192.168.1.201/" "Chrome/15.0.874.106" "-"
- 192.168.1.166 - - 119272312 [05/Nov/2011:16:06:59 +0800] "GET /poweredby.png HTTP/1.1" 200 3034 "http://192.168.1.201/" "Chrome/15.0.874.106" "-"
- 192.168.1.177 - - 1007071650 [05/Nov/2011:16:06:59 +0800] "GET /favicon.ico HTTP/1.1" 404 3650 "-" "Chrome/15.0.874.106" "-"
- 192.168.1.178 - - 58565468 [05/Nov/2011:16:17:40 +0800] "GET / HTTP/1.1" 200 3700 "-" "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0)" "-"
- 192.168.1.166 - - 119272312 [05/Nov/2011:16:17:40 +0800] "GET /nginx-logo.png HTTP/1.1" 200 370 "http://192.168.1.201/" "Chrome/15.0.874.106" "-"
PV很简单,大致就是统计某个URL的访问次数,例如统计/index.html的访问次数
Shell代码
- grep "/index.html" /var/log/nginx/access.log –c
UV呢,我们根据用户标识(第四列) ,首先需要字符串截取,使用cut命令,以空格符号分割,-d “ ”,再取第四列-f 4,然后这里需要排重,需要使用uniq工具,uniq速度很快,但是基于就近排重,前一个后一个一样会排重,之间间隔了不一样的,就不行了,这就必须使用sort工具来对标识符进行排序,排序后再使用uniq工具就可以达到目的,之间我们用管道符号链接, 最后再用 wc –l 输出统计数
比如我们统计访问了/index.html这也页面的uv:
Shell代码
- grep "/index.html" /var/log/nginx/access.log | cut –d “ ” –f 4| sort | uniq | wc –l
独立IP:
假设我们要统计整站的独立IP,那么我们不需要使用grep来匹配具体页面,只需要使用cat输出即可:
Shell代码
- cat /var/log/nginx/access.log | cut –d “ ” –f 1 | sort| uniq | wc -l
都木有使用强大的awk,就完成了基本的统计需求:)
- Shell 统计PV, UV ,独立IP
- Shell 统计PV, UV ,独立IP
- Shell 统计PV, UV ,独立IP
- shell统计pv和uv、独立ip的方法
- Shell统计访问ip UV、PV
- pv/uv/vv/独立ip介绍
- 网站统计IP PV UV实现原理
- 网站数据统计 PV UV IP 是什么意思
- 网站访问量统计之UV/PV/IP
- 网站统计IP PV UV实现原理
- 关于PV、UV、独立IP访问的区别
- 统计UV和PV
- python统计pv、uv
- 统计pv uv-
- mapreduce 统计PV UV
- PV/UV/IP
- PV,UV以及IP
- PV ,UV, IP, PR
- 获取iphone的IMSI和设置飞行模式
- 看美剧学英文之最全攻略
- 浅论网站优化还有涉足百度产品的必要吗
- 计算机语言的基本理论
- 为TIF、JPG图片添加地理坐标/平面直角坐标(转)
- Shell 统计PV, UV ,独立IP
- MIDI<百科>
- udp cheat
- HTML详解
- 关系型数据库基础之:管理数据库和表
- 新博客http://practicer.info freebsd/linux/网络游戏开发
- 跨越千年的RSA算法
- 堆排序 原理与实现
- 走在java的路上,就要做一个合格的程序猿