Hive 实现将时间(时间戳)归到某时间片

来源:互联网 发布:江南大学校园网络登陆 编辑:程序博客网 时间:2024/05/16 12:35

在进行数据处理或者建模的时候我们常常需要将某一时间段内的时间统一归于到某一时刻,来表征他们同属于这一时间段。比如2017-12-19 13:23:30,我们按照10min作为一个时间段向前划分,这个时间会被划分到2017-12-19 13:20:00,如果按照30min作为一个时间段,这个时间会被划分到2017-12-19 13:00:00。其他时间段长度可以依次类推。

如果使用python,scala,Java等语言来实现是一件很容易的事情,但是在工业生产环境中,我们希望可以直接HQL实现的还是用HQL,以下我们就使用纯HQL来解决。

我们知道时间戳表示1970年至今的秒数,一个小时有3600秒,10分钟为600秒,所以我们使用时间戳来除600秒然后向下取整(扔掉余数),得到的从1970年开始,到现在的时间段数量(10分钟作为一个时间段),然后这个值再乘上600,得到的就是所属的那个时间片开始的时刻。举例如下:

30分钟作为一个时间段

# 注意一点,hive的的除法会自动转为double类型,所以我们要加一个CAST# 结果为2017-11-11 13:00:00SELECT DISTINCT FROM_UNIXTIME(60*30*CAST(UNIX_TIMESTAMP("2017-11-11 13:23:23")/(60*30) AS BIGINT), 'yyyy-MM-dd HH:mm:ss')FROM test_table

10分钟作为一个时间段

# 注意一点,hive的的除法会自动转为double类型,所以我们要加一个CAST# 结果为2017-11-11 13:20:00SELECT DISTINCT FROM_UNIXTIME(60*10*CAST(UNIX_TIMESTAMP("2017-11-11 13:23:23")/(60*10) AS BIGINT), 'yyyy-MM-dd HH:mm:ss')FROM test_table
原创粉丝点击