大数据存储

一、三只小猪的故事解释大数据存储

大数据的部署实施需要结合具体的应用场景。实际上，企业大数据的存储处理可以用 “三只小猪盖房子”（分别使用稻草、木头和砖头）的故事来说明，这个故事能更形象地反映数据存储环境下与交付服务（成本）相对应的不同保护级别（完整性和可靠性）。

财务数据、对外报告和法规遵从性数据需在“砖房”（BRICKS）环境中存储处理。这些数据需要可靠的硬件基础设施，并与其原始来源保持一致。企业中多个职能部门使用产品服务定价决策、销售业绩及分析以及至关重要的员工/管理层薪酬激励机制计算等财务数据，这是很常见的情况。

精心设计的“木房”（STICK）环境可确保存储数据牢固耐用。该环境专用于应用程序，而并非针对企业级使用和跨职能部门数据共享而设计。该数据类型可专门用于数据转换，通常包括大量营销数据集市。仅数据转换、协调及沿袭等必要功能即可满足特定商业用途。与上述“砖房”相比，“木房”从本质上讲，成本更低，速度更快。

最后介绍“草房”（HAY）。“草房”实际上是指在需要使用数据的特定日期对数据进行转换、分组及汇总。其中，数据可能以原始来源的数据格式存在，几乎不需要任何数据结构。用户可任意调整数据格式。虽然 “草房”设计无法轻易复制或纵向扩展，却适用于应对非特定、非重复性商业问题。该方案对数据协调及复制的需求低。

使用“三只小猪”的类比相当直观，但具体解决方案应参考数据管控（Data Governance）方针。如能应对自如，业务部门希望快速获得低成本解决方案;而IT部门则需要依托可靠的解决方案，提供健全、可靠的服务。这也是业务及IT部门大多数讨论中的固有矛盾。

由于部署迅速、成本低且失败的代价低，“草房”解决方案备受关注。在新的经济机制下，特别是在自助式环境下用户对数据（包括大数据）价值的认可，是数据实验室和探索环境快速发展的原因。因此，业务部门选择快速、低成本的解决方案也不足为奇。

但将“草房”方案升级为“木房”或“砖房”环境时，IT部门的成本令人非常震惊。“为什么他们不能使用我们两周内设计的解决方案？”他们可以。但在“草房”的基础上部署“砖房”甚至是“木房”方案都行不通。利用“草房”的设计方案部署“木房”及“砖房”方案，将浪费IT部门大量预算。

其主要挑战是识别数据重要性的数据管控策略和过程。在“草房”环境中设计出的“创意”方案需迁移至更稳定的环境时，参与数据管理方式（草房、木房还是砖房）决策的相关负责人需要全面了解下游数据的重要性。

二、大数据存储技术路线

大数据存储技术路线最典型的共有三种：

　　第一种是采用MPP架构的新型数据库集群，重点面向行业大数据，采用Shared Nothing架构，通过列存储、粗粒度索引等多项大数据处理技术，再结合MPP架构高效的分布式计算模式，完成对分析类应用的支撑，运行环境多为低成本 PC Server，具有高性能和高扩展性的特点，在企业分析类应用领域获得极其广泛的应用。

　　这类MPP产品可以有效支撑PB级别的结构化数据分析，这是传统数据库技术无法胜任的。对于企业新一代的数据仓库和结构化数据分析，目前最佳选择是MPP数据库。

　　图1 MPP架构图

　　第二种是基于Hadoop的技术扩展和封装，围绕Hadoop衍生出相关的大数据技术，应对传统关系型数据库较难处理的数据和场景，例如针对非结构化数据的存储和计算等，充分利用Hadoop开源的优势，伴随相关技术的不断进步，其应用场景也将逐步扩大，目前最为典型的应用场景就是通过扩展和封装 Hadoop来实现对互联网大数据存储、分析的支撑。这里面有几十种NoSQL技术，也在进一步的细分。对于非结构、半结构化数据处理、复杂的ETL流程、复杂的数据挖掘和计算模型，Hadoop平台更擅长。

　　第三种是大数据一体机，这是一种专为大数据的分析处理而设计的软、硬件结合的产品，由一组集成的服务器、存储设备、操作系统、数据库管理系统以及为数据查询、处理、分析用途而特别预先安装及优化的软件组成，高性能大数据一体机具有良好的稳定性和纵向扩展性。

三、数据处理技术的核心问题

　　其实我们一直面临着数据处理中最核心、最大的问题，那就是性能问题。性能不好的技术和产品是没有生命力的。数据处理性能问题不是因为大数据才出现，也不会有了大数据技术而消失。处理性能的提升将促进对数据价值的挖掘和使用，而数据价值挖掘的越多、越深入，对处理技术要求就越高。

　　目前的数据仓库只能满足一些静态统计需求，而且是T+1模式;也是因为性能问题，运营商无法有效构造超过PB级别的大数据仓库，无法提供即席查询、自助分析、复杂模型迭代分析的能力，更无法让大量一线人员使用数据分析手段。

　　今天如果做“大数据”数据仓库，运营商面临的挑战比上个10年要大的多。目前没有单一技术和平台能够满足类似运营商的数据分析需求。可选的方案只能是混搭架构，用不同的分布式技术来支撑一个超越PB级的数据仓库系统。这个混搭架构主要的核心是新一代的MPP并行数据库集群+ Hadoop集群，再加上一些内存计算、甚至流计算技术等。

　　大数据需要多元化的技术来支撑。当前数据处理对企业的挑战越来越大，主要是下面几个原因：

　　第一个原因是数据量已经是上一代的一个数量级了，1个省份级运营商1年就可超越1PB结构化数据。

　　第二个原因是“大数据”关注的更多是用户行为、群体趋势、事件之间的相关性等，而不仅仅是过去的KPI，。这就对数据分析平台对数据的分析能力和性能提出了新的要求和挑战。

　　图2未来大数据处理的核心技术