基于 Spark 和 Flask 的一个可伸缩的电影推荐系统

来源:互联网 发布:java微服务消息组件 编辑:程序博客网 时间:2024/06/05 17:23

http://python.jobbole.com/82207/

这份Apache Spark教程可以指导你逐步了解如何使用MovieLens数据集,基于协同过滤建立一个电影推荐系统。协同过滤使用Spark的交替最小方差(ALS)算法。

该教程由两部分组成。第一部分是关于在Spark的RDDs(Resilient Distributed Datasets,是一个并行的容错数据结构,可以让用户显示地将数据存储到磁盘和内存中,并能控制数据的分区)中获取并解析电影和评分数据。第二部分是关于建立和使用推荐系统,并在稍后的在线推荐系统中沿用它。这两部分最近都发布在了Codementor.io。

第一部分:建立推荐系统

第二部分:建立并运行web服务

这份教程可以被单独用来建立基于MovieLens数据集的电影推荐系统。单从使用这个数据集或这个算法方面来看都不算是创新(我推荐你看EdX course或是Google的例子)。因为我们把重点放在最终得到一个在线环境下可用的模型,并且在不同情形下都可以使用。教程的第二部分解释了在Spark模型上如何使用Python、Flask建立web服务。通过这些工作,你就能够开发一个完整的在线电影推荐服务。

快速开始

本教程的应用程序已经拥有自己的代码仓库(repository)了 ,未来还会继续发展。请尽情fork开发自己的应用吧!

文件server/server.py启动了CherryPy服务器,这个服务器会运行Flask的app.py以启动一个基于Spark的RESTful web服务器engine.py。通过API我们就可以实现在线电影推荐了。

关于如何运行使用这个服务的详细指导请参考笔记第二部分。

谢谢分享!

 2 赞  收藏  评论

关于作者:fzr

微博:@fzr-fzr) 个人主页 ·  我的文章 ·  12

相关文章

  • Flask 框架作者希望看到的 Python
  • Scrapy + Flask + Mongodb + Swift 开发爬虫全攻略(1)
  • Flask、Django、Pyramid三个框架的对比
  • “海盗”用Flask,“海军”用Django
  • 在Linux上使用Python和Flask创建你的第一个应用
  • 用Flask实现视频数据流传输
  • 30分钟编写一个Flask应用
  • Python和Flask真是太强大了
  • 在Flask中验证注册用户的Email
  • Scrapy+Flask+Mongodb+Swift开发全攻略(2)

可能感兴趣的话题

  • 中兴技术官问的一道题目,瞬间给跪了 ·  1
  • 美团2016研发工程师笔试题-有兴趣的同学可以... ·  12
  • 各位程序员,大家平时除了code,工作之余还有什么兴... ·  21
  • 开发个app,怎么挣钱 ·  6
  • 生活中有喜欢看足球的程序员么? ·  4
  • 一门语言需要究竟学到什么程度就可以学别的语...
  • Java中数据库连接池大家一般都用哪一个?
  • 推荐 迅雷2016C++工程师 一道选择题
  • 零基础如何学习web前端开发? ·  5
  • 动态规划版的菲波那切数列 来分享一下 ·  3

0 0