SparkSQL下UDF的使用
来源:互联网 发布:网络销售的工作怎么样 编辑:程序博客网 时间:2024/05/22 14:28
在hive中UDF函数可以在使用add jar 的方法添加,然后createTemporary function aaa as 包名.类名创建临时函数,在spark-shell这样使用会报java.lang.ClassNotFoundException: com.luogankun.udf.HelloUDF。
这时将jar包放到(1)spark jars下 或(2)配置将jar包的路径配置到spark-env.sh的SPARK_CLASSPATH中,形如:
export SPARK_CLASSPATH=$SPARK_CLASSPATH:/home/hadoop/software/mysql-connector-java-5.1.27-bin.jar:/home/hadoop/lib/weekday.jar
sql("create temporary function weekday as 'cn.xdl.hive.WeekDay'")就可以直接创建临时函数
如下使用:
sql("select weekday(vdate),count(distinct(uid)) from useraction1 group by weekday(vdate) order by count(distinct(uid))").show
阅读全文
0 0
- SparkSQL下UDF的使用
- sparkSQL中UDF的使用
- sparkSQL中UDF的使用
- sparkSQL中udf的使用
- sparkSql中udf的应用
- SparkSQL的UDF和UDAF
- SparkSQL的UDF和UDAF
- SparkSQL使用之如何使用UDF
- SparkSQL 实现UDF的两种方式
- hive下UDF函数的使用
- hive下UDF函数的使用
- Spark-sparksql-自定义udf
- SparkSQL---UDF(java)
- sparksql udf自定义函数中参数过多问题的解决
- SparkSql 函数的使用
- sparksql的基本使用
- spark1.1.0下使用SparkSQL
- SparkSQL中UDF和UDAF
- Linux内核 fork 源码分析
- [操作系统] 进程间的通信
- 【Scikit-Learn 中文文档】交叉分解
- 封装的导航工具类,两行代码搞定iOS App内部跳转第三方应用(百度、高德、苹果)地图导航
- Kafka的部署
- SparkSQL下UDF的使用
- ARM NEON编译错误
- Laplace Beltrami Operator
- 动态增序插入排序
- 由主页界面引出的几个知识点(四)
- java重新再来之JDk及基础入门
- css心得
- shell学习手册(2)
- Hadoop概念&命令操作&java操作