Hive 实现将时间(时间戳)归到某时间片
来源:互联网 发布:江南大学校园网络登陆 编辑:程序博客网 时间:2024/05/16 12:35
在进行数据处理或者建模的时候我们常常需要将某一时间段内的时间统一归于到某一时刻,来表征他们同属于这一时间段。比如2017-12-19 13:23:30,我们按照10min作为一个时间段向前划分,这个时间会被划分到2017-12-19 13:20:00,如果按照30min作为一个时间段,这个时间会被划分到2017-12-19 13:00:00。其他时间段长度可以依次类推。
如果使用python,scala,Java等语言来实现是一件很容易的事情,但是在工业生产环境中,我们希望可以直接HQL实现的还是用HQL,以下我们就使用纯HQL来解决。
我们知道时间戳表示1970年至今的秒数,一个小时有3600秒,10分钟为600秒,所以我们使用时间戳来除600秒然后向下取整(扔掉余数),得到的从1970年开始,到现在的时间段数量(10分钟作为一个时间段),然后这个值再乘上600,得到的就是所属的那个时间片开始的时刻。举例如下:
30分钟作为一个时间段
# 注意一点,hive的的除法会自动转为double类型,所以我们要加一个CAST# 结果为2017-11-11 13:00:00SELECT DISTINCT FROM_UNIXTIME(60*30*CAST(UNIX_TIMESTAMP("2017-11-11 13:23:23")/(60*30) AS BIGINT), 'yyyy-MM-dd HH:mm:ss')FROM test_table
10分钟作为一个时间段
# 注意一点,hive的的除法会自动转为double类型,所以我们要加一个CAST# 结果为2017-11-11 13:20:00SELECT DISTINCT FROM_UNIXTIME(60*10*CAST(UNIX_TIMESTAMP("2017-11-11 13:23:23")/(60*10) AS BIGINT), 'yyyy-MM-dd HH:mm:ss')FROM test_table
阅读全文
0 0
- Hive 实现将时间(时间戳)归到某时间片
- lua获取未来某时间点的时间戳解决方案
- 时间戳转化为某时刻
- 求某时间点的周开始和结束时间
- IOS_计算当前时间与某时间的时间差
- IOS_计算当前时间与某时间的时间差
- 当前时间是否在某时间段判定 c++
- 时间片
- 时间片
- 时间片
- 操作系统课程设计(一)时间片轮转实现多线程调度
- 进程调度-时间片轮转法(Java简单实现)
- C++实现操作系统进程调度(时间片轮转法)
- 普通接收函数的改进(时间片->线程实现)
- (转)CPU时间片
- 时间片选择(java)
- hive时间戳转换
- hive时间戳格式化
- 线性代数的本质
- c++输出函数调用堆栈
- Levko and Table CodeForces
- 111
- Log4Qt 日志级别
- Hive 实现将时间(时间戳)归到某时间片
- java.lang.NoClassDefFoundError: Failed resolution of: Landroid/support/v4/animation/AnimatorCompatHe
- JAVA 计数排序,桶排序
- 从今天开始
- UIKit Function Reference
- netfix ribbon提供的负载均衡策略
- 关于低版本SQL附加高版本数据库(REEOR:948)的解决方法
- spring cloud服务的注册与发现(Eureka)
- A002-《操作系统:设计与实现(第三版)》学习第二周感想