CIO你了解什么是“数据归档”吗?

来源:互联网 发布:蒙泰5.1软件 编辑:程序博客网 时间:2024/05/02 08:07

什么是归档?

  什么时候你应该应用它?什么是实施的最好方法?这些都是CIO现在面临的问题, 这些就是这篇文章要研究的问题。

  什么是归档?

  数据归档就是在二级存储设备上存储 非活动数据,如在线磁盘。这些数据是在将来可能需要的信息,因此不能删除他们。可能有合法的原因来保存这些数据,也可能是机构需要,如市场研究或正当的理 由也许就像删除它会让人很不舒服。不管怎样,最后的决定是存储而不是将其删除。

  保存数据的问题或者是由于合法原因,或者是“以防万 一”,也就是它必须保存在某个地方。如果没有一个有效的归档策略,这就意味着数据会和其他东西一样被保存在同样的地方——主存储。

  对于 昂贵的资源来说,在主存储上存储非活动数据是一个巨大的浪费。在主存储之间每GBdelta的价钱至少在5到10美元之间甚至最贵形式的归档存储,那是非 常大的。另外,主存储旨在快速传输过度过程数据。它基本上不能支持数据恢复法规或在它被写入存储后的几年,不能证实这一系列数据的完整性。这些都是归档存 储的重要要求。

  归档目标

  归档第一步是为存储库选择存储平台。这一元素必须是第一 步,因为被选择的平台决定策略如何实施。

  传统的磁带被认为是理想的归档媒介。因为它很便宜也容易存储、传输。磁带的问题是它要求特殊的 软件访问。它不像在网络上复制到另一个驱动上。对于数据检索和虚拟无数据验证能力也是有限的。

  随着磁盘的价钱逐渐下降,价格便宜的 NAS和SATA驱动技术也开始浮出水面。他们比磁带更容易访问,但它同样也有其他挑战,主要是成本和扩展能力。

  磁盘和磁带的缺点导致 了基于磁盘的归档系统的开发,像这些来源于Permabit技术。这些系统提供基于NAS存储的访问,成本更高效以及磁带的可扩展性同时包括检索和验证功 能。

  归档策略

  一旦归档存储库选好后,这时可以着手开发一个策略程序。第一步是决 定数据如何被迁移到平台,第二步是多久迁移一次,最后,如何保护归档。

  如何迁移数据通常是需要深思熟虑的。做这些最简单的事情是通过标 准OS命令,迁移这些数据到归档系统。如果归档平台是基于磁盘的归档,这是非常正确的。因为这些系统是简单的另一些网络驱动名,把这些数据手动移到存储库 是非常简单的。对于一些自动化操作,一个像Tek-Tool的工具可以用来产生一个列表,并且把这个列表插入移动数据的OS脚本。

  手动 迁移程序的好处是它成本是高效的,通常是免费的,并且很快就可以实施。缺点是它不得不手动操作,维护,用户没有目标指导,如文件数据移到哪里了。当一个更 规范的数据迁移程序开发出来的时候,它就不再是一个理想的策略。

  这个更规范的程序通常是某种自动数据迁移的形式。这些可以通过 Atempo公司或EnigmaSoftware公司的某种特定的归档软件完成。这些软件通常部署一个代理或远程接入你环境中的服务器来决定合适的归档文 件。然后迁移这些文件用来归档。大多数应用创建一个透明链,以便用户准确找回这些归档数据。

  在几个月或几周里归档非活动数据,基于软件 和磁盘结合的归档允许非常具有挑战性的迁移政策。在不损害用户体验的前提下,它给予主存储最佳的利用率。当用户访问一个归档文件的时候,它正好是用户离开 时刻的那点,因为它是磁盘归档,通常不会被注意到性能的减少。大多数调查报告显示真正的活动数据,在90天内windows标注的数据,仅仅以每年3%到 5%的速度增长,新的归档可以推迟未来几年的存储购买。

  存储策略的最后一部分是归档自身的保护。很多用户试图像其他备份设备一样备份磁 盘归档。这样是不正确的,归档永远不需要被备份。

  对于一个本地磁盘故障的保护,磁盘归档系统有先进的数据保护方案,提供比标准RAID 更牢固的保护。同样他们有完整内置数据自身的检查。对于站点故障的保护,磁盘归档解决方案应用可以通过WAN连接复制到另一个站点。这些要求购买一个二级 系统,通过实施基于磁盘的归档节省的成本会比不设置这种附加的保护更多。

  没有一个二级系统,归档存储的数据会被全备份备份多次。例如, 如果在90天后迁移非活动数据,并且你的备份规则是每周一个完全备份,这就意味着归档的数据将在大约12个全备份中受保护。对于规则的一个简单的改变是由 原来的一个月备份一次到一个月以上备份一次意味着归档数据在磁带上也是可用的。

  归档的影响

   基于磁盘的归档策略最快速、最明显的好处是它可以今年或在以下的几年里减少主存储的需求,潜在的节省了IT预算中的存储购买预算。在很多情况下,用户可 以释放他们主存储能力的80%,通过重新分配存储,用户实际可以减少存储量进而减少能源消耗。

  最后,一个有效的归档策略可以通过减少 80%的备份负载,推迟升级到备份的投资。这些减少可以通过升级到备份到磁盘架构,备份带宽和备份服务器实现。

  在2009年,IT预算 趋势和归档的高效性使归档成为一个理想的选择。你能完成这个项目的事实是:提高主存储性能,减少备份windows,增加数据安全性,在当今的经济情况下 使它成为一个有价值的项目。

==============================

数据量的爆炸性增长,让我们不得不更加关心存储。这也造成了目前谈论“数据挖掘”、“知识管理”等话题更容易引起共鸣。现在所说的存储,并非是 简单的“存”和“储”的含义,不是把数据放在角落里就万事大吉的。更重要的是,我们要通过这些数据,进一步产生价值,提升企业业务能力,增加效益。这时 候,“存储”就演变成了更多的其他含义。比如“备份”、“数据归档”、“数据保护”、“数据挖掘”等等。那么在这些“存储”的替代名词之中,目前哪个是业 界谈论最多的呢?“数据归档”当属其一。为什么这么说?是有充足理由的。

  备份与数据归档 即分散又统一

  存储网络工业协会(SNIA)是如何解释数据归档的呢?SNIA在《网络存储双语词典》中的解释是——Archive(数据归档)是指数据集合 的一致性拷贝,通常用以长期持久地保存事务或者应用状态记录。一般情况下,数据归档通常用以审计和分析的目的,而不是用于应用恢复的目的。

  上面的解释太术语了,不好理解,那么我们可以用备份和数据归档作一下对比,因为备份是很多人容易理解的名词。备份和数据归档都是数据存储的应用 形式,只是应用目的不同。

  先来看看备份,其实就是对数据进行复制,是为了确保在出现数据丢失或系统灾难时将复制的数据恢复回来。因此备份关注的是业务信息的变化和更新, 是短期的存储行为,并且经常被覆盖。比如银行每天要备份交易记录。

  根据备份的解释再来看数据归档就很好理解了。数据归档是针对“海量数据”的应用,是对数据进行有计划的迁移。当数据停止改变或不被频繁使用时, 通过数据归档把它们转移到别的地方,让出主存储空间,并且使之处于日常的备份窗口之外,既节约了空间,又提升了备份的效率。

  那么根据上面的解释,如果再简化来说,那就是“Ctrl+C”和“Ctrl+X”的区别,备份是复制,数据归档是剪切。当然,这只是为了方便理 解的比喻,其实里面的玄机还是很多的。

  备份和数据归档虽有区别但又互相联系。只要涉及到数据归档必然会有数据备份的需求,并且两者都是对存储设备进行操作,因此它们完全可以基于同一 技术体系来实现。所以我们看现在的主流存储厂商推出的都是“数据管理软件”,既能备份,又可以数据归档,大有“分而合之”之意。目前,备份和数据归档常常 放在一起考虑,统称BURA (BackUp, Restore, Archive)。两者相似之处都是用复制来保护重要数据不被损坏或丢失。常见的BURA解决方案是D2D2T,就是Backup Disk to Disk, then to Tape。这样满足了对备份速度的要求,也满足了对大容量长保存时间的数据归档要求,平衡了各方面的需求。

  厂商推出的软件既然如此,那么企业对数据归档与备份的需求也是分不开的。对企业而言,备份和数据归档具有两种不同但互补的功能:备份用于快速复 制和恢复,以减少故障、人员错误或灾难带来的影响;数据归档则用于对数据进行有效的管理、保留和长期的访问与检索。企业可以将数据归档和备份结合起来用, 以达到优化成本、改进存储基础设施的整体效力,使备份能够在有效的数据归档解决方案下变得更有效率,而数据归档也可以利用备份基础设施满足数据保护需要。

  需求飙升 容量左右应用

  随着数据量的爆炸性增长,数据归档的需求明显增多。IDC在发布《2007年第三季度全球存储软件市场收入》时,其存储软件分析师 Michael Margossian曾说到:“整个市场受到数据归档和数据保护与恢复软件市场强劲需求的推动。企业对备份软件的需求似乎有所降温,对数据归档软件的需求 逐渐抬头。”

  那么对于企业来说,在当前的市场竞争环境中,需要增加数据分析能力以提升竞争力非用“数据归档”不可。比如我们查询每月电话费,目前只能查到6 个月之内的费用。而一年前的话费呢?并非电信部门将此数据删除了,只是没有让其显示给用户。这些更久远的数据是被“数据归档”了,但是又可以供电信部门随 时查看。当电信部门需要分析话费,进而推出新业务时,就会从数据归档数据中调出这些“年代久远”的数据来。国内一家制造领域大型企业CIO的感触也十分 “直白”。他认为,“让数据赚钱,比让数据省钱来的更加有价值。”这也表明了,数据归档比备份来说,更容易帮助企业提升竞争力。

  可以说,数据归档是在企业实施备份方案后的进一步对数据的梳理。为什么说是在备份基础之上的升华呢?因为没有备份数据的情况下,谁敢“剪切”。 所以备份是前提,数据归档是提升。而且数据归档也比备份的前提条件要求更多。首先就是容量的要求,一般量级都是在TB级甚至PB级。对于不到TB级存储量 的企业来说,与其采用数据归档,还不如直接加大磁盘容量来的实际。比如佛山伊戈尔这家致力于向全球市场提供电源变压器、电力变压器和变压器铁芯组件的专业 供应商,其IT部门负责人欧建文在接受记者采访时介绍道:“在容量方面,佛山伊戈尔邮件数据库120GB、工程资料文件70GB、一般应用系统SQL数据 库120GB、Oracle数据库及应用有170GB,总共480GB的数据量。由于数据量不大,我们确实对数据归档技术没有需求,只是使用了备份功 能。”

  但并不意味着现在没有应用数据归档技术的企业对这项技术就不关心。比如2007年,SNIA完成了一项全面调查,该调查涉及了来自世界各国各种 组织的数百人。令人惊讶的是,80%的人说他们的信息必须保存50年以上,68%的人说他们的数据必须保存100年以上。这样保存数据的话,容量增长可想 而之。所以佛山伊戈尔也看到了这种数据爆炸增长的趋势,在制定未来3年IT建设规划时,“数据归档”已经跃然纸上。欧建文对记者说:“目前数据归档技术已 经排在佛山伊戈尔未来3年内应用的日程上了,未来会首先在ERP、财务信息和邮件方面应用数据归档。”

  ILM解决数据归档难题

  虽然数据归档的需求正在逐步崛起,但是摆在我们面前的难题其实还有很多。其中最主要的有两个难点:数据长期保留和法规遵从。数据保留的时间远远 超过存储系统(磁盘或磁带)和应用程序的寿命。对于长期数据归档(15 年以上),最大的挑战是逻辑迁移。逻辑迁移保持了应用程序的特定性,自动化主要流程变得更困难。完整“保存”需要保持数据的可读性和可解释性。

  在法规遵从方面,随着越来越多的商务运作采用数字方式进行记录和存储,制定用以管理商务和数据的相关法律法规越来越多,未能遵从这些法规而造成 的后果也变得越来越严重。除遵从政府的规范法规之外,组织还需要制定自己的内部政策和规程,缓解风险和控制 IT。层层的法规遵从给数据归档增加了难度。

  目前在磁盘或磁带上做备份、数据归档,每隔3~5年就需要迁移一次数据(同时在物理上和逻辑上)。物理迁移需要将信息从一个物理存储系统移到另 一个系统,或从一种介质格式移到另一种格式以维持物理可读性、可访问性和完整性。逻辑迁移需要将信息从一种逻辑格式移到另一种格式(如从应用程序的旧版本 移到新版本),以保持可读性和可解释性。所以,对于上面提到的SNIA调查得出的结论,“绝大部分人希望数据保存50年甚至100年”,那么存储于磁带, 则要面临读取困难和保存时间不够长这样的问题。简而言之,我们需要保留信息的时间远远超过存储系统(磁盘或磁带)和应用程序的典型生命周期。甚至保留期还 没到,物理介质就开始退化,变得无法读取。

  那么有没有什么方法,既可以长久保留数据,又可以增加容量,还能快速读取数据呢? SNIA长期数据归档和法规遵从存储计划 (LTACSI) 主席、NetApp全球实践总监Gary Zasman给出的建议是:针对应用程序、操作及数据存储库实施正式生命周期管理流程,以在使用寿命中解决数据管理的效率问题。

  目前,在数据归档中应用ILM(Information Lifecycle Management,信息生命周期管理)的理念已经逐步被用户接受,这不仅能帮助企业从整体上改善其数据资产的管理,以最低的成本来实现大量数据的有效 管理与高效利用。并且随着应用的成熟与现实的需求,数据加密、身份认证、虚拟化等技术也逐步走进数据归档的应用中,并且有效地提高了数据归档应用的效率, 增强了数据安全性,大大降低了操作的复杂性和成本。

  数据归档技术走向何方

  一个好的存储数据归档系统可以帮助企业实现以下目标:降低保留历史数据的成本;更有效和快捷地对历史数据访问和利用;减少保护和维护信息所需的 人力管理成本;保护数据归档数据的安全性。但是对于数据的读取,数据归档现在还不能做到尽善尽美。比如我们现在拿起一本100年前的书,可以毫不费力地进 行阅读,而几年前的备份磁带,读取可能要困难得多。即使有正确的硬件来读取磁带(且磁带本身仍然完好),我们还是需要知道磁带的写入格式,且需要可以识别 此数据的应用程序。

  在IT应用早期,磁盘阵列不像今天这么发达,磁带库是主要的备份技术。如今,硬盘越来越便宜,不仅磁带在备份中的应用减少了,甚至有人提出用磁 盘阵列来做数据归档,全面取代磁带库。但是,由于磁盘阵列的技术特性所决定,存储在其中的资料都处在热状态。这就是说,用于数据归档的磁盘存储系统不应该 关机,其重新加电的过程也很复杂。而在提倡“绿色计算”的今天,长期开机很不利于能耗的降低。而且,几十年、上百年的资料,使用频度不一定很高,磁盘和磁 带相比,成本效益就更加悬殊。所以说,对于数据归档来说,磁带库仍然是不可替代的最佳选择。

  为了更快更方便地读取数据,数据归档的理想方案应该是VTL(虚拟磁带库)。VTL通常具有几个重要优点,同其他D2D解决方案一样,它们在本 质上比磁带更可靠,并且不会出现介质错误、机械故障或起停问题。虚拟磁带机和介质如果使用稳定,则不会磨损;它们也不需要清洁和维护。最重要的是,与物理 磁带库相比,企业VTL可以使数据归档的性能提高一个数量级。不过VTL虽然性能出众、又具有管理便捷的优势,但是其成本依然是一道难以逾越的门槛,这让 很多有数据归档需求用户不得不望VTL兴叹。


原创粉丝点击