教育资源为主的文档平台

当前位置: 查字典文档网> 所有文档分类> 论文> 其他论文> 基于访问趋势的热点副本创建策略(1)

基于访问趋势的热点副本创建策略(1)

上传者:网友
|
翻新时间:2013-12-14

基于访问趋势的热点副本创建策略(1)

摘要:在分析动态副本创建策略的基础上,对集中式的动态创建策略进行改进,将热点数据副本的创建与数据访问的历史记录相结合。最后通过数据网格模拟器进行模拟实验,得出并分析了实验结果。

关键词:数据网格; 副本优化; 热点副本

在现代科学研究和应用领域中,大量的数据是重要的资源,如高能物理和粒子物理、生物医学研究、航空航天、数字地球、大型武器模拟、大型数据库和数据仓库等的应用。其数据量将达到TB至PB的级别。同时,地理上广泛分布的科研工作者和用户都希望能访问和分析这些庞大的数据,而现有的数据管理体系结构、方法和技术已经不能满足人们对高性能、大容量分布存储和分布处理的要求。因此,数据网格应运而生,以解决上述应用面临的问题。

数据网格计算[1]为各种应用提供了一个高性能、大容量、高速传输的并行分布广域计算平台。它是对广域范围内大规模的数据集进行分布式管理和分析及使用的一个综合的体系结构,实现网格环境中安全、可靠和有效的数据传输以及访问、复制等操作,并提供到不同存储系统的统一接口,较好地解决了上述问题, 从而使得数据密集型的高性能计算和大量的共享数据密集型的事务处理及科学研究成为可能。

在数据网格环境下,通过数据的复制使数据更接近用户,可以更快执行用户提交的作业,在更短的时间内访问作业所需的数据文件,以快速提高数据访问性能。作业通过资源代理(RB)提交给网格。RB将作业调度到不同的计算单元(CE),以提高网格的吞吐量。副本管理器在每个站点管理站点与站点、存储单元与计算单元接口间的数据流。副本优化器负责副本的选择、动态生成和删除。在副本优化服务执行过程中,网络性能和磁盘I/O也是影响作业调度和副本选择的重要因素。优化算法应通过检查计算单元和各个存储单元之间的可用带宽和存储单元的磁盘I/O来从不同的存储节点获得最优的副本。Vazhkudai等人[2,3]表明在网格环境下,磁盘吞吐时间能占用30%的传输时间。因此在计算数据传输时间时,应考虑网络带宽和磁盘吞吐率。这样的优化策略可以更加接近真实的数据网格系统。

本文在有限的网络带宽和磁盘吞吐能力的情况下,根据不断变化的外部访问特征和副本访问历史记录来对副本进行优化,从而使得用户可以就近访问。整个数据网格系统达到一个负载均衡的状态。

1相关工作

在用户提交作业到作业完成这个过程中,副本管理器对作业的生命周期进行三处优化[4]:

a)资源代理(RB)决定作业在哪个计算单元上运行,即调度的优化。通过计算一个代价函数来实现:

Cost=getAccessCost() estimatedQueuingTime()。作业总的执行是作业访问文件时间和作业排队时间之和[5]。其中作业访问数据文件时间包括数据文件读取时间、网络带宽延迟时间和磁盘I/O时间。本文中的作业调度流程如图1所示。

b) 作业运行中的动态副本选择。一旦作业在计算单元(CE)上运行,它需要访问不同的数据文件。由于一个数据文件在各个网格站点上可能存在多个副本,当一个作业需要访问某个数据文件时,副本优化器(RO)通过调用函数getBestFile()来找到最优的文件副本。

c)动态副本优化,即触发在第三方站点上复制数据文件。每个站点对所请求的数据文件进行监控和记录。当特定的数据文件成为热点数据时,则可以考虑将该文件复制到最有可能被访问到的第三方站点。本文通过数据文件的前N次访问历史记录来判断该数据文件是否可成为热点副本,并通过一定的算法对其进行复制。 一种基于混合决策树的调度知识获取算法

一种限制搜索区域的多比例尺最优路径规划算法

下载文档

版权声明:此文档由查字典文档网用户提供,如用于商业用途请与作者联系,查字典文档网保持最终解释权!

网友最新关注

感激妈妈
福娃迎奥运
四季,我写一首诗
学校天天放假该有多好
妈妈的翅膀
感悟生命的坚强
妈妈的爱
等待放学
你是花神最勇敢的种子
假如风有颜色
当我看见......
童年你不要走
友谊
我的梦
爸爸的背
陕西省审计学会召开六届四次常务理事扩大会议
国资经营公司对外投资的审计及强化对外投资管理的思考
高职院校审计学教学困境及应对研究
大股东控制与审计质量相关性研究
刍议乡镇工程审计存在的问题及解决对策
浅析我国审计人员职业道德建设
工程造价建设项目全过程跟踪审计探索与讨论
行政单位绩效审计的相关问题探究
审计委员会特征与会计信息质量的相关性研究
作为一种新趋势的战略审计
职业怀疑、职业判断与审计艺术
加大经济责任审计力度 服务干部管理
经济责任审计相关问题探讨
发挥内部审计在基层事业单位中的监督管理作用
对人民银行内部审计职业化的探究
《两只鸟蛋》教学设计之五
《春晓》教学设计之五
《春晓》教学设计之七
《胖乎乎的小手》教学设计之二
《春晓》教学设计之六
《胖乎乎的小手》教学设计之一
《看电视》第一课时教学设计之一
《春晓》教学设计之四
《看电视》教学设计之三
《胖乎乎的小手》教学设计之三
《两只鸟蛋》教学设计之四
《月亮的心愿》第一课时教学设计之一
《月亮的心愿》教学设计之三
《两只鸟蛋》教学设计之三
《两只鸟蛋》教学设计之一