spark dataframe 将一列展开,该列所有值都变成新列

来源:互联网 发布:网络运营学校 编辑:程序博客网 时间:2024/06/01 08:00

The original dataframe

这里写图片描述

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijingGeoHourPopAfterDrop.groupBy("geoHash").pivot("hour").sum("countGeoPerHour").na.fill(0)

并且统计了对应的countGeoPerHour的和,如果有些行没有这个新列对应的数据,将用null填充

The new dataframe

这里写图片描述

阅读全文
0 0
原创粉丝点击