VM Depot 分布式计算框架主题应用精选

来源:互联网 发布:system halted linux 编辑:程序博客网 时间:2024/04/30 08:29


发布于 2014-12-24

在前几期为各位介绍了大数据应用主题以及开发运营主题的各类镜像后,这次我们精选了 VM Depot 站点中分布式计算相关主题的虚拟机镜像和大家一起分享。这些技术框架全部来自国内优秀的开源社区,相信熟悉这个领域的朋友不会对此感到陌生。 当然,首先需要指出的是,这些镜像都已在 VM Depot上架,您可以通过VM Depot 强大的搜索工具找到并立即部署。

MetaQ

MetaQ 是来自淘宝的JAVA 消息中间件。它类似 Apache-Kafka ,但经过了一系列的本地化和性能调优, 使得Meta成为一个更为强大的通用消息中间件,包括:

  • 彻底用Java重写的实现,高效的协议和通讯框架。
  • 发送端的负载均衡。
  • Master/Slave异步和同步复制的高可用方案。
  • 专门用于广播消息的客户端实现。
  • 与diamond结合使用的顺序发送消息功能。
  • 支持事务,包括本地事务和分布式事务,实现JTA规范。

根据作者在 GitHub 上的主页说明,该项目已被广泛应用到国内的知名的京东,支付宝等互联网站点上。如果您觉得这个消息中间件对您的项目有所帮助,请您一定与我们一起分享。

TFS

千万别搞错,这不是微软的 Team Foundation Server, 而是淘宝自主研发并开源的分布式文件系统 (Taobao File System)。它针对海量小文件 (如淘宝店中的图片等等)的读写访问做了优化,根据其相关发布, TFS 主要有以下特点:

  • 完全扁平化的数据组织结构,抛弃了传统文件系统的目录结构。
  • 在块设备基础上建立自有的文件系统,减少EXT3等文件系统数据碎片带来的性能损耗。
  • 单进程管理单块磁盘的方式,摒除RAID5机制。
  • 带有HA机制的中央控制节点,在安全稳定和性能复杂度之间取得平衡。
  • 尽量缩减元数据大小,将元数据全部加载入内存,提升访问速度。
  • 跨机架和IDC的负载均衡和冗余安全策略。
  • 完全平滑扩容。

目前,TFS 在淘宝的应用规模达到“PB级数据量”,如果您对电商应用感兴趣,我建议您不妨一试。

CTaxis

腾讯(CTaxis) 云排序起初来自于社交游戏的应用场景,如用户成长值,积分属性等等的排序要求,且很多情况下需要实时排序,海量查询。腾讯的 CTaxis 便因此应用而生。根据其代码托管站点CSDN CODE 上的相关文档,CTaxis 对以下几种排序类型提供支持:

  1. 无条件属性值TOP排行。
  2. 带条件(按用户的等级、 城市、 类别等)属性值TOP排行。
  3. 非用户属性值日涨(跌)幅TOP排行。
  4. 非用户属性值周涨(跌)幅TOP排行。
  5. 用户在应用中某属性值全服的排名、 排名百分比、上升(下降)名次 。

同时,您还可以在其官方主页找到有关该项目的相关使用指南。希望这个镜像能帮到有计划在 Azure 上开发社交游戏的开源爱好者,快速创建各类排序应用场景。

Chronos

来自小米的 Chronos 时间戳服务器是实现高可用、高性能、提供全局唯一而且严格单调递增timestamp的服务。如下图所示,它基于非常经典的 Thrift 框架,并拥有极高的可用性和可靠性。 在大规模分布式计算的场景下,Chronos 能不依赖于NTP服务提供严格全局唯一的值以及 放错机制,相比 Twitter 开源的 Snowflake 确实更胜一筹。鉴于snowflake 已经退休,我建议您不妨试试 Chronos 。

以上精选的分布式计算开源应用只是 VM Depot 虚拟机镜像站中的冰山一角,如果您现在已经蠢蠢欲动,不妨直接进入站点部署使用镜像吧!请别忘了通过对评论、反馈或级别评定留下您的宝贵意见,帮助我们一起增强社区体验!


【有用链接】: Azure 1元 30天试用账号申请

如果您想了解更多。请关注精彩及时的微软开放技术官方网站 https://cn.msopentech.com/,以及微信公众号:微软开放技术(或扫描下列QR-Code)。

如果您有其他问题,请访问 MSDN 上的论坛,获取更多信息并与其他客户交流互动。

本文转发自:http://cn.msopentech.com/blog/2014/12/24/vm-depot-%e5%88%86%e5%b8%83%e5%bc%8f%e8%ae%a1%e7%ae%97%e6%a1%86%e6%9e%b6%e4%b8%bb%e9%a2%98%e5%ba%94%e7%94%a8%e7%b2%be%e9%80%89/

0 0