关键词不能为空

当前您在: 主页 > 发明专利 >

一种用于在分布式存储系统中执行文件写入的方法与设备

作者:专利检索网
来源:https://www.cange.org.cn/famingzhuanli
日期:2020-11-06 15:04






申请号 201710115370.3
申请日 2017.03.01
同一申请的已公布的文献号 CN 107145302 A
2017.09.08
本国优先权数据201610115468.4 2016.03.01 CN
专利权人 阿里巴巴集团控股有限公司地址 英属开曼群岛大开曼资本大厦一座四层847号邮箱
发明人 刘善阳 张海勇 石超 
专利代理机构 上海百一领御专利代理事务所
(普通合伙) 31243代理人 陈贞健 王路丰
Int.Cl.G06F 3/06
(2006.01)G06F 16/172
(2019.01)G06F 16/182
(2019.01)
对比文件CN 103116552 A,2013.05.22,CN 104965835 A,2015.10.07,US 2015363118 A1,2015.12.17,US 8650328 B1,2014.02.11,审查员 张玉碟
发明名称一种用于在分布式存储系统中执行文件写入的方法与设备
摘要本申请的目的是提供一种用于在分布式存储系统中执行文件写入的方法与设备。
具体地,向元数据管理设备提交关于目标文件的可写数据块的块信息请求;接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块;根据关于所述目标文件的写入请求对所述多个可写数据块中之一执行文件写入。
与现有技术相比,本申请多个进程同时对文件的不同数据块写入使得写入吞吐量增加,降低写入热点发生概率;遇到文件写入失败后,由数据管理设备、元数据管理设备更新存储数据块不可写状态,用户设备将不可写数据块删除选择其它数据块重新写入,从而避免出现写入失败所致的写入延时增长,减少小数据块出现的概率,减轻用户管理负担。
权利要求书4页 说明书21页 附图5页CN 107145302 B2020.06.19CN 107145302 B 1.一种在元数据管理设备端用于在分布式存储系统中执行文件写入的方法,其中,该方法包括:获取用户设备提交的关于目标文件的可写数据块的块信息请求;根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块;将所述多个可写数据块返回至所述用户设备。
2.根据权利要求1所述的方法,其中,所述根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块包括:确定所述目标文件对应的所有可写的数据块;若所述所有可写的数据块的数量等于或大于所述目标文件对应的可写块数量阈值,则将所述所有可写的数据块作为所述用户设备对应的多个可写数据块;否则,为所述目标文件分配其他可写的数据块,并将所述其他可写的数据块及所述所有可写的数据块作为所述用户设备对应的多个可写数据块,其中,所述多个可写数据块的数量等于可写块数量阈值。
3.根据权利要求2所述的方法,其中,所述为所述目标文件分配其他可写的数据块包括:根据每个文件当前对应的在写数据块及每个在写数据块对应的块服务器,为所述目标文件分配其他可写的数据块,其中,每个其他可写的数据块对应的块服务器与每个在写数据块对应的块服务器小于或等于预定的块服务器重复阈值。
4.根据权利要求1所述的方法,其中,所述方法还包括:接收所述用户设备发送的关于所述目标文件的可写块数量阈值设置请求,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值;根据所述新的可写块数量阈值更新所述可写块数量阈值。
5.根据权利要求1所述的方法,其中,所述方法还包括:接收对应主数据管理设备发送的所述多个可写数据块之一的数据块更新状态,其中,所述数据块更新状态为不可写。
6.一种在用户设备端用于在分布式存储系统中执行文件写入的方法,其中,该方法包括:向元数据管理设备提交关于目标文件的可写数据块的块信息请求;接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块;向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入。
7.根据权利要求6所述的方法,其中,所述方法还包括:当所述多个可写数据块均为不可写时,向所述元数据管理设备重新提交关于所述目标文件的可写数据块的块信息请求。
8.根据权利要求6所述的方法,其中,所述向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入包括:权 利 要 求 书1/4页2CN 107145302 B2 接收关于所述目标文件的写入请求;将所述写入请求转发至所述多个可写数据块中当前第一个可写数据块对应的主数据管理设备,以对所述当前第一个可写数据块对应的一个或多个数据块副本执行文件写入;更新所述多个可写数据块中当前第一个可写数据块。
9.根据权利要求8所述的方法,其中,所述向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入还包括:当接收到所述主数据管理设备返回的文件写入成功信息,回收所述当前第一个可写数据块以接收关于所述目标文件的新写入请求。
10.根据权利要求6所述的方法,其中,所述方法还包括:将用户提交的关于所述目标文件的可写块数量阈值设置请求发送至所述元数据管理设备,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值。
11.根据权利要求6所述的方法,其中,所述方法还包括:若发生对所述数据块执行文件写入的失败,将写失败对应的所述目标文件对应的数据块信息删除。
12.一种在主数据管理设备端用于在分布式存储系统中执行文件写入的方法,其中,该方法包括:接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入;若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求;更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。
13.一种用于在分布式存储系统中执行文件写入的元数据管理设备,其中,该设备包括:块信息请求获取装置,用于获取用户设备提交的关于目标文件的可写数据块的块信息请求;可写数据块确定装置,用于根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块;块信息反馈装置,用于将所述多个可写数据块返回至所述用户设备。
14.根据权利要求13所述的设备,其中,所述可写数据块确定装置包括:候选数据块确定单元,用于确定所述目标文件对应的所有可写的数据块;直接反馈单元,用于若所述所有可写的数据块的数量等于或大于所述目标文件对应的可写块数量阈值,则将所述所有可写的数据块作为所述用户设备对应的多个可写数据块;否则,重分配反馈单元,用于为所述目标文件分配其他可写的数据块,并将所述其他可写的数据块及所述所有可写的数据块作为所述用户设备对应的多个可写数据块,其中,所述多个可写数据块的数量等于可写块数量阈值。
15.根据权利要求14所述的设备,其中,所述为所述目标文件分配其他可写的数据块包权 利 要 求 书2/4页3CN 107145302 B3 括:根据每个文件当前对应的在写数据块及每个在写数据块对应的块服务器,为所述目标文件分配其他可写的数据块,其中,每个其他可写的数据块对应的块服务器与每个在写数据块对应的块服务器小于或等于预定的块服务器重复阈值。
16.根据权利要求13所述的设备,其中,所述设备还包括:可写块数量阈值设置请求接受装置,用于接收所述用户设备发送的关于所述目标文件的可写块数量阈值设置请求,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值;可写块数量阈值更新装置,用于根据所述新的可写块数量阈值更新所述可写块数量阈值。
17.根据权利要求13所述的设备,其中,所述设备还包括:数据块状态接受装置,用于接收对应主数据管理设备发送的所述多个可写数据块之一的数据块更新状态,其中,所述数据块更新状态为不可写。
18.一种用于在分布式存储系统中执行文件写入的用户设备,其中,该设备包括:块信息请求发送装置,用于向元数据管理设备提交关于目标文件的可写数据块的块信息请求;块信息接受装置,用于接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块;数据块写入请求发送装置,用于向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入。
19.根据权利要求18所述的设备,其中,所述设备还包括:数据块写尽处理装置,用于当所述多个可写数据块均为不可写时,向所述元数据管理设备重新提交关于所述目标文件的可写数据块的块信息请求。
20.根据权利要求18所述的设备,其中,所述数据块写入请求发送装置包括:写入请求接受单元,用于接收关于所述目标文件的写入请求;数据块写入请求发送单元,用于将所述写入请求转发至所述多个可写数据块中当前第一个可写数据块对应的主数据管理设备,以对所述当前第一个可写数据块对应的一个或多个数据块副本执行文件写入;数据块更新单元,用于更新所述多个可写数据块中当前第一个可写数据块。
21.根据权利要求20所述的设备,其中,所述数据块写入请求发送装置还包括:新写入请求接受单元,用于当接收到所述主数据管理设备返回的文件写入成功信息,回收所述当前第一个可写数据块以接收关于所述目标文件的新写入请求。
22.根据权利要求18所述的设备,其中,所述设备还包括:可写块数量阈值设置请求发送装置,用于将用户提交的关于所述目标文件的可写块数量阈值设置请求发送至所述元数据管理设备,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值。
23.根据权利要求18所述的设备,其中,所述设备还包括:写入失败删除装置,用于若发生对所述数据块执行文件写入的失败,将写失败对应的所述目标文件对应的数据块信息删除。
权 利 要 求 书3/4页4CN 107145302 B4 24.一种用于在分布式存储系统中执行文件写入的主数据管理设备,其中,该设备包括:文件写入执行装置,用于接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入;写入失败处理装置,用于若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求;数据块状态更新装置,用于更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。
25.一种用于在分布式存储系统中执行文件写入的元数据管理设备,其中,该设备包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:获取用户设备提交的关于目标文件的可写数据块的块信息请求;根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块;将所述多个可写数据块返回至所述用户设备。
26.一种用于在分布式存储系统中执行文件写入的用户设备,其中,该设备包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:向元数据管理设备提交关于目标文件的可写数据块的块信息请求;接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块;向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入。
27.一种用于在分布式存储系统中执行文件写入的主数据管理设备,其中,该设备包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入;若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求;更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。
权 利 要 求 书4/4页5CN 107145302 B5 一种用于在分布式存储系统中执行文件写入的方法与设备技术领域
[0001]本申请涉及计算机领域,尤其涉及一种用于在分布式存储系统中执行文件写入的技术。
背景技术
[0002]随着互联网的普及,数据业务逐步增加,因此对分布式存储系统的要求亦逐步提高,尤其是对文件写入的吞吐量有一定的要求,在当前分布式存储系统中,往往需要支持一个文件同时被多个进程度读写,即允许多个进程同时向一个文件写入数据,其数据的一致性即交给其中的一个数据设备管理端节点负责,例如微软的Azure系统即采用了这样的措施。

[0003]然而,现有技术会因为每个文件只有一个对应可以写数据的数据块使得吞吐量受限,同时当多个客户端同时对一个文件进行写入,若遇到写入失败时会导致写入延时增长,降低系统的可用性,且遇到写入失败后会导致数据块的长度小于期望值,而小数据块的数量增加使得管理代价增大。
发明内容
[0004]本申请的一个目的是提供一种用于在分布式存储系统中执行文件写入的方法与设备,用以解决分布式存储系统中单文件多进程写入吞吐量低以及写入失败所致系统不稳定的问题。

[0005]根据本申请的一个方面,本申请提供了一种在元数据管理设备端用于在分布式存储系统中执行文件写入的方法,该方法解决了分布式存储系统中单文件多进程写入吞吐量低以及写入失败所致系统不稳定的问题,该方法包括:
[0006]获取用户设备提交的关于目标文件的可写数据块的块信息请求;
[0007]根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块;
[0008]将所述多个可写数据块返回至所述用户设备。

[0009]根据本申请的另一个方面,本申请提供了一种在用户设备端用于在分布式存储系统中执行文件写入的方法,该方法解决了分布式存储系统中单文件多进程写入吞吐量低以及写入失败所致系统不稳定的问题,该方法包括:
[0010]向元数据管理设备提交关于目标文件的可写数据块的块信息请求;
[0011]接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块;
[0012]向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入。

[0013]根据本申请的另一个方面,本申请提供了一种在主数据管理设备端用于在分布式说 明 书1/21页6CN 107145302 B6 存储系统中执行文件写入的方法,该方法解决了分布式存储系统中单文件多进程写入吞吐量低以及写入失败所致系统不稳定的问题,该方法包括:
[0014]接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入;
[0015]若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求;
[0016]更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。

[0017]根据本申请的又一个方面,本申请提供了一种用于在分布式存储系统中执行文件写入的元数据管理设备,该设备解决了分布式存储系统中单文件多进程写入吞吐量低以及写入失败所致系统不稳定的问题,该设备包括:
[0018]块信息请求获取装置,用于获取用户设备提交的关于目标文件的可写数据块的块信息请求;
[0019]可写数据块确定装置,用于根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块;
[0020]块信息反馈装置,用于将所述多个可写数据块返回至所述用户设备。

[0021]根据本申请的再一个方面,本申请提供了一种用于在分布式存储系统中执行文件写入的用户设备,该设备解决了分布式存储系统中单文件写入吞吐量低下的问题,该设备包括:
[0022]块信息请求发送装置,用于向元数据管理设备提交关于目标文件的可写数据块的块信息请求;
[0023]块信息接受装置,用于接收所述元数据管理设备基于所述块信息请求返回的、所述目标文件对应的多个可写数据块;
[0024]数据块写入请求发送装置,用于向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入。

[0025]根据本申请的再一个方面,本申请提供了一种在主数据管理设备用于在分布式存储系统中执行文件写入的方法,该方法解决了分布式存储系统中单文件多进程写入吞吐量低以及写入失败所致系统不稳定的问题,该方法包括:
[0026]文件写入执行装置,用于接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入;
[0027]写入失败处理装置,用于若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求;
[0028]数据块状态更新装置,用于更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。

[0029]根据本申请的再一个方面,本申请提供了一种用于在分布式存储系统中执行文件写入的元数据管理设备,其中,该设备包括:
[0030]处理器;说 明 书2/21页7CN 107145302 B7
[0031]以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
[0032]获取用户设备提交的关于目标文件的可写数据块的块信息请求;
[0033]根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块;
[0034]将所述多个可写数据块返回至所述用户设备。

[0035]根据本申请的再一个方面,本申请提供了一种用于在分布式存储系统中执行文件写入的用户设备,其中,该设备包括:
[0036]处理器;
[0037]以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
[0038]向元数据管理设备提交关于目标文件的可写数据块的块信息请求;
[0039]接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块;
[0040]向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入。

[0041]根据本申请的再一个方面,本申请提供了一种用于在分布式存储系统中执行文件写入的主数据管理设备,其中,该设备包括:处理器;
[0042]以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
[0043]接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入;
[0044]若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求;
[0045]更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。

[0046]根据本申请的再一方面,还提供了一种实现在分布式存储系统中执行文件写入的系统,解决了分布式存储系统中单文件多进程写入吞吐量低以及写入失败所致系统不稳定的问题,其中,该系统包括如前所述根据本发明一个方面的一种用于在分布式存储系统中执行文件写入的元数据管理设备,如前所述根据本发明另一个方面的一种用于在分布式存储系统中执行文件写入的用户设备,以及如前所述根据本发明另一个方面的一种用于在分布式存储系统中执行文件写入的主数据管理设备。

[0047]与现有技术相比,本申请向元数据管理设备提交关于目标文件的可写数据块的块信息请求,接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块,并根据关于所述目标文件的写入请求对所述多个可写数据块中之一执行文件写入,从而允许单个文件可对应写入多个数据块,使得多个进程可同时对文件对应的不同数据块进行写入从而使得写入吞吐量增加,降低写入热点发生的概率。
主数据管理设备在发生对数据块执行文件写入失败后,向用户设备报告失败信息,并拒绝与所述用户设备说 明 书3/21页8CN 107145302 B8 对应同一文件的其他用户设备对所述数据块执行文件写入的请求,并更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态,且用户设备端在遇到写入失败后将不可写数据块直接删除,选择目标文件对应的其它数据块重新写入,避免出现写入失败所致的写入延时增长,减少小数据块出现的概率,进而减轻用户管理负担。
附图说明
[0048]通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
[0049]图1示出根据本申请一个方面的元数据管理设备端、用户设备端以及主数据管理设备端配合实现的一种实现在分布式存储系统中执行文件写入的方法流程图;
[0050]图2示出根据本申请一个优选实例的一种实现在分布式存储系统中执行文件写入的方法中的步骤S22流程图;
[0051]图3示出根据本申请一个优选实例的一种实现在分布式存储系统中执行文件写入的方法中的步骤S13流程图;
[0052]图4示出根据本申请另一个方面的元数据管理设备端、用户设备端以及主数据管理设备端配合实现的一种实现在分布式存储系统中执行文件写入的方法中修改可写块数量阈值的流程图;
[0053]图5示出根据本申请另一个方面的元数据管理设备、用户设备以及主数据管理设备配合实现的一种实现在分布式存储系统中执行文件写入的设备示意图;
[0054]图6示出根据本申请另一个优选实例的一种实现在分布式存储系统中执行文件写入的设备中可写数据块确定装置示意图;
[0055]图7示出根据本申请另一个优选实例的一种实现在分布式存储系统中执行文件写入的设备中数据块写入请求发送装置示意图;
[0056]图8示出根据本申请另一个方面的元数据管理设备以及用户设备配合实现的一种实现在分布式存储系统中执行文件写入的设备中实现修改可写块数量阈值功能的示意图。

[0057]附图中相同或相似的附图标记代表相同或相似的部件。
具体实施方式
[0058]下面结合附图对本申请作进一步详细描述。

[0059]在本申请一个典型的配置中,终端、服务网络的设备和可信方均包括一个或多个处理器
(CPU)、输入/输出接口、网络接口和内存。

[0060]内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器
(RAM)和/或非易失性内存等形式,如只读存储器
(ROM)或闪存
(flash?RAM)。
内存是计算机可读介质的示例。

[0061]计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。
信息可以是计算机可读指令、数据结构、程序的模块或其他数据。
计算机的存储介质的例子包括,但不限于相变内存
(PRAM)、静态随机存取存储器
(SRAM)、动态随机存取存储器
(DRAM)、其他类型的随机存取存储器
(RAM)、只读存储器
(ROM)、电可擦除可编程只读存储器
(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器
(CD-ROM)、说 明 书4/21页9CN 107145302 B9 数字多功能光盘
(DVD)或其他光学存储、磁盒式磁带,磁带磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。
按照本文中的界定,计算机可读介质不包括非暂存电脑可读媒体
(transitory?media),如调制的数据信号和载波。

[0062]图1示出根据本申请一个方面的元数据管理设备端、用户设备端以及主数据管理设备端配合实现的一种实现在分布式存储系统中执行文件写入的方法流程图。
其中,所述用户设备端包括步骤S11、步骤S12、步骤S13;所述元数据管理设备包括步骤S21、步骤S22、步骤S23;所述主数据管理设备端包括步骤S31、步骤S32以及步骤S33。

[0063]其中,在步骤S11中用户设备端向元数据管理设备提交关于目标文件的可写数据块的块信息请求;在步骤S21中元数据管理设备端获取用户设备提交的关于目标文件的可写数据块的块信息请求;在步骤S22中元数据管理设备端根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块;在步骤S23中元数据管理设备端将所述多个可写数据块返回至所述用户设备;在步骤S12中用户设备端接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块;在步骤S13中用户设备端向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入;在步骤S31中主数据管理设备端接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入;在步骤S32中主数据管理设备端若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求;在步骤S33中主数据管理设备端更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。

[0064]具体地,在步骤S11中用户设备端向元数据管理设备提交关于目标文件的可写数据块的块信息请求;在步骤S21中元数据管理设备端获取用户设备提交的关于目标文件的可写数据块的块信息请求。
其中,所述用户设备端是指分布式存储系统中用于为用户提供各种接口的端口模块,以三端模式的分布式存储系统为例,所述用户设备端即为客户端即Client,下文这三种代称均指代用户设备端。
所述元数据管理设备端是指分布式存储系统中管理分布式存储系统中元数据的模块,以三端模式的分布式存储系统为例,所述元数据管理设备端即为Master也就是命名空间管理模块。
所述目标文件即为需要执行写入的文件,通常在分布式存储系统中会预先创建好但不限于此,所有需要执行写入的文件均可成为目标文件。
所述数据块是指一段用户逻辑数据,以字节流的形式存储,用于目标文件的数据写入,以三端模式的分布式存储系统为例,数据块即为该系统中所称的chunk。
所述关于目标文件的可写数据块的块信息是指可以用于执行目标文件写入的当前可写的数据块及其位置,数量等信息。
所述提交和获取请求的方法包括但不限于通过分布式存储系统自有接口进行,以三端模式的分布式存储系统为例,Client客户端启动,在此因为是多进程同时对一个文件进行写入,所以是多个客户端均向Master发送获取目标文件F所有可以写的Chunk的信息的请求。
通过上述动作,可以使得元数据管理设备端发起对目标文件可写数据块的块信息的查找,从而使得文件写入流程启动。

[0065]本领域技术人员应能理解上述发送和获取关于目标文件的可写数据块的块信息请求的方式仅为举例,其他现有的或今后可能出现的发送和获取关于目标文件的可写数据说 明 书5/21页10CN 107145302 B10 块的块信息请求的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0066]接着,在步骤S22中元数据管理设备端根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块。
即根据可写块数量阈值将与所述阈值比较的符合预置数目的目标文件可写数据块分配给所述用户设备进行写入,当若干用户设备同时对目标文件进行写入,所分配给用户设备的可写数据块列表是一致的,例如,所述可写块数量阈值为M,则以三端模式的分布式存储系统为例,元数据块管理设备端Master收到请求后在内存中找到目标文件F所有可以写的Chunk的信息T和可以写的Chunk的数量M,若T大于或等于M则确定这T个可写数据块Chunk为目标文件F所对应的可写数据块。
所述可写块数量阈值是指所设置的控制可写数据块数量的阈值,在此,块即指代数据块,此指代上下文均通用,所述可写块数量阈值可根据写入吞吐量或速率的要求进行设置,本阈值的存在使得用户不需要自己管理多路写入的文件,只需要根据写入的需求调整可写数据块的数量,此外,所述可写块数量阈值亦可以根据系统的要求设置系统自行调整,或进行初始设定。
所述用户设备对应的多个可写数据块是指每个写入文件可以有一个以上的可写数据块,因此对其进行写入的用户设备也对应多个可写数据块,在三端模式的分布式存储系统中,现有技术仅支持每个目标文件在元数据块管理设备端Master有一个可写数据块,在本申请的实施例中可以通过对用户设备端以及元数据管理设备端的接口间的协议进行设置,使得每个目标文件在元数据块管理设备端有多个可写数据块,从而能够达到单文件写入时支持多个数据块同时写入的目的,使得文件写入不受限于单个机器的物理资源,进而提高单文件写入的效率、降低写入热点的形成概率。

[0067]其中,在本申请的实施例中通过对用户设备端以及元数据管理设备端的接口间的协议进行设置的方法,以三端模式的分布式存储系统为例,在元数据块管理设备端Master中设置如下:在面向用户设备端Client的服务和协议方面,对于获取文件可写数据块Chunk信息的服务:扩展现有协议,增加对可写的数据块Chunk有多个的支持;对于可写数据块Chunk数量的服务:增加设置文件可写数据块Chunk数量的协议和服务,增加获取文件可写数据块Chunk数量的协议和服务。
在用户设备端Client中设置如下:在面向元数据块管理设备端Master协议方面:对于获取文件可写数据块Chunk信息的协议:扩展现有协议,增加对可写的数据块Chunk有多个的支持;对于可写数据块Chunk数量的接口:增加设置文件可写数据块Chunk数量的协议,增加获取文件可写数据块Chunk数量的协议;在对于在面向用户的接口方面:对于可写数据块Chunk数量的接口:增加设置文件可写数据块Chunk数量的接口,增加获取文件可写数据块Chunk数量的接口。
以上设置使得每个目标文件在元数据块管理设备端有多个可写数据块,从而能够达到单文件写入时支持多个数据块同时写入的目的,满足用户需求,同时在元数据块管理设备端Master只耗费了单个文件的内存,没有降低集群服务用户的数量。

[0068]本领域技术人员应能理解上述对用户设备端以及元数据管理设备端的接口间的协议进行设置使得每个目标文件在元数据块管理设备端有多个可写数据块的方式仅为举例,其他现有的或今后可能出现的对用户设备端以及元数据管理设备端的接口间的协议进行设置使得每个目标文件在元数据块管理设备端有多个可写数据块的方式如可适用于本说 明 书6/21页11CN 107145302 B11 申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0069]接着,在步骤S23中元数据管理设备端将所述多个可写数据块返回至所述用户设备;在步骤S12中用户设备端接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块。
即如上文所述确定所述目标文件对应的多个可写数据块后将所述数据块及其相关信息由元数据管理设备端返回至用户设备端,所述用户设备对应的多个可写数据块即返回的每个用户设备所要写入的申请目标文件所对应的可写数据块,以三端模式的分布式存储系统为例,接上文举例,元数据管理设备端Master将目标文件F所有可以写的数据块Chunk的数量T及其相关信息从内存中找到并进行反馈,反馈的方式包括但不限于通过分布式存储系统自有接口进行。

[0070]其中,所述元数据管理设备端内存中的所述目标文件对应的可写数据块的数量以及相关信息的获取方式包括但不限于在获取每个在分布式存储系统中文件后,元数据管理设备端即存储其所有正在写以及允许写的数据块信息,以三端模式的分布式存储系统为例,元数据块管理设备端Master在文件的元数据存储方面:负责存储每个文件当前所有正在写的数据块Chunk信息,例如数据块的副本位置;负责存储每个文件当前所允许的可写数据块Chunk的数量。
以上信息在元数据块管理设备端Master端都需要进行持久化的保存,宕机重启后不会丢失,从而使得可以在用户设备端需要目标文件是可以及时查找到。

[0071]本领域技术人员应能理解上述元数据管理设备端对每个文件数据块存储的方式仅为举例,其他现有的或今后可能出现的元数据管理设备端对每个文件数据块存储的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0072]接着,在步骤S13中用户设备端向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入;在步骤S31中主数据管理设备端接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入。
即因为所述目标文件有对应的多个可写数据块,因此,在所述用户设备端获得所述可写数据块相关信息后将所述多个可写数据块进行排序,或按照默认顺序依次在接受到目标文件的写入请求后对应的主数据管设备请求写入。
以三端模式的分布式存储系统为例,用户设备端Client将所接到的目标文件F所有的对应的可写数据块Chunk之后,在按照默认或设置的顺序对某一Chunk进行写入时,寻找其相应的数据块服务器即Chunksever进行相应副本的写入,其中,因为本实施例中是多进程写入,因此,将写入请求发往进行主导的主数据块服务器即PrimaryChunksever,进而主数据服务器在接受到写入请求后,将所接受到的客户端数据进行排序,在本地存储数据的同时向从数据块服务器即SecondaryChunksever进行转发,主从数据块服务器的工作模式可以参考微软Azure中的底层分布式存储系统中数据存储节点的工作模式,主从数据块服务器在收到写入请求后即执行对文件的写入。
在此,所举例的数据块服务器,以及Chunksever均是指所述主数据管理设备或从数据管理设备,在上下文三种代称通用。
Chunksever的信息的获取方式包括但不限于由元数据管理设备端Master记录当前可写Chunk所在的所有Chunkserver,这部分信息以缓存的形式存在,不需要持久化,宕机重启后可以根据之前所记录的信息恢复出来,也就是从所负责存储的每个文件当前所有正在写的数据块Chunk信息中进行恢复;用户设备端Client存储文件当前所有可写的Chunk信息,这部分信息以缓存的形式存在,不需要持久化,宕机重启后从Master端重新获取。
说 明 书7/21页12CN 107145302 B12
[0073]本领域技术人员应能理解上述保存和获取数据块对应数据块服务器信息的方式仅为举例,其他现有的或今后可能出现的保存和获取数据块对应数据块服务器信息的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0074]接着,在步骤S32中主数据管理设备端若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求。
其中,所述写入失败泛指造成写失败的场景,例如网络延时高或网络不通,以及磁盘延时高或无法写入等。
因为多个用户设备同时对同一文件进行写入操作,因此,当某一用户设备对主数据管理设备发送写入请求后,该主数据管理设备对数据块写入的过程中发生写失败的情况,则主数据管理设备反馈该用户设备写入失败,同时拒绝所有用户设备新发起的写入请求,从而避免对写失败的数据块再次发起写入进而导致失败。
以三端模式的分布式存储系统为例,即当PrimaryChunkserver遇到failover的时候,一方面,对于已经接受的请求,返回Client失败,拒绝所有Client新发起的写请求。

[0075]接着,在步骤S33中主数据管理设备端更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。
即将当前写失败的数据块设置为不可写的状态,并将这一状态反馈至元数据管理设备端,从而将其所存储的所述数据块进行更新,使得后续会导致写入失败的数据块不会被再次写入。
以三端模式的分布式存储系统为例,即PrimaryChunkserver将写入失败的Chunk状态设置为不可写,并持久化存储,同时将该写入失败的Chunk的状态汇报给Master,要求Master进行持久化存储。
在此,数据块不可写的状态的设置由主数据管理设备端和元数据管理设备端负责,避免了不必要的数据块切换,降低了非全局写入失败场景下的写延时的增长,提高了系统可用性。
同时,因为避免了不必要的数据块切换,减少了写入不多即切换所产生的小数据块的比例,提高了系统的服务规模。

[0076]优选地,所述方法包括步骤S24
(未示出),在步骤S24中元数据管理设备端接收对应主数据管理设备发送的所述多个可写数据块之一的数据块更新状态,其中,所述数据块更新状态为不可写。
即将上述主数据管理设备端发送的某个数据块不可写的状态进行接收并在本地持久化存储,例如,接上文举例,Master接收到PrimaryChunkserver所汇报的某个数据块被设置为不可写的信息后,根据其要求对这一状态进行本地持久化存储,从而避免不可写的数据块再次被用户设备端所获取从而造成不必要的写失败。

[0077]本领域技术人员应能理解上述主数据管理设备端和元数据管理设备端处理写失败数据块的方式仅为举例,其他现有的或今后可能出现的主数据管理设备端和元数据管理设备端处理写失败数据块的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0078]优选地,所述方法还包括步骤S14
(未示出),在步骤S14中用户设备端当所述多个可写数据块均为不可写时,向所述元数据管理设备重新提交关于所述目标文件的可写数据块的块信息请求。
是指在对目标文件所对应的数据块进行写入时,若遇到从元数据管理设备端所获得的可写数据块均写完或不可写的情况,则需要向元数据管理设备重新提交获取同样目标文件的可写数据及其相关信息的请求,此时,如前文中实施例所述,将之前的步骤重新进行一遍。
以三端模式的分布式存储系统为例,当Client发现缓存中没有可写的Chunk时,向Master发送获取文件F所有可以写的Chunk的信息的请求,重新分配获取可写Chunk的数量,使得所述用户设备端获取目标文件所对应的新的可写数据块,从而继续进行文件的说 明 书8/21页13CN 107145302 B13 写入。

[0079]优选地,所述方法还包括步骤S15
(未示出),在步骤S15中用户设备端若发生对所述数据块执行文件写入的失败,将写失败对应的所述目标文件对应的数据块信息删除。
其中,所述写失败的情况包括主数据管理设备对数据块写入所发生的失败,也包括用户设备端与主数据管理设备之间所发生的失败情况,例如,两者之间用于传递信息的网络出现故障。
在用户设备端获取到写入失败信息后,将这一数据块信息直接进行删除,进而直接在从元数据管理设备端所获取的目标文件对应的可写数据块中选择另一个数据块重新进行写入。
以三端模式的分布式存储系统为例,当Client遇到写入失败,将写入失败对应的Chunk信息从缓存中删除,但不改变这个Chunk的状态,进而从缓存中所有的当前可写Chunk中按顺序选择下一个Chunk进行重试,从而避免了在,降低了非全局写入失败场景下的写延时的增长。

[0080]图2示出根据本申请一个优选实例的一种实现在分布式存储系统中执行文件写入的方法中的步骤S22流程图。
其中,所述步骤S22包括步骤S221、步骤S222、步骤S223。

[0081]其中,在步骤S221中元数据管理设备端确定所述目标文件对应的所有可写的数据块;在步骤S222中元数据管理设备端若所述所有可写的数据块的数量等于或大于所述目标文件对应的可写块数量阈值,则将所述所有可写的数据块作为所述用户设备对应的多个可写数据块;否则,在步骤S223中元数据管理设备端为所述目标文件分配其他可写的数据块,并将所述其他可写的数据块及所述所有可写的数据块作为所述用户设备对应的多个可写数据块,其中,所述多个可写数据块的数量等于可写块数量阈值。

[0082]具体地,在步骤S221中元数据管理设备端确定所述目标文件对应的所有可写的数据块。
是指确定所述目标文件的所有可写数据块信息,获取的方法包括如上文所述从所述元数据管理设备端所存储的元数据信息中的每个文件当前所允许的可写数据块的数量,即以三端模式的分布式存储系统为例,因为元数据块管理设备端Master在文件的元数据存储方面:负责存储每个文件当前所有正在写的数据块Chunk信息,例如数据块的副本位置;负责存储每个文件当前所允许的可写数据块Chunk的数量,因此可以从Master端中找到目标文件F的所有可写数据块,假设所找到的目标文件F的所有可写数据块为T。

[0083]接着,在步骤S222中元数据管理设备端若所述所有可写的数据块的数量等于或大于所述目标文件对应的可写块数量阈值,则将所述所有可写的数据块作为所述用户设备对应的多个可写数据块。
即将根据系统默认或用户根据写入要求所设置的可写块数量阈值与所获得的目标文件的所有可写数据块数量进行比较,若所述目标文件的所有可写数据块数量不小于所述可写块数量阈值则将所述目标文件的所有可写数据块及其相关信息直接由元数据管理设备端反馈给用户设备端,使之作为用户设备需要写入的所述目标文件对应的可写数据块进行写入。
以三端模式的分布式存储系统为例,如果当前目标文件F已有的Chunk数量不小于可写块数量阈值M,则将这些Chunk信息返回Client。

[0084]接着,若所述所有可写的数据块的数量小于所述目标文件对应的可写块数量阈值,在步骤S223中元数据管理设备端为所述目标文件分配其他可写的数据块,并将所述其他可写的数据块及所述所有可写的数据块作为所述用户设备对应的多个可写数据块,其中,所述多个可写数据块的数量等于可写块数量阈值。
即将根据系统默认或用户根据写入要求所设置的可写块数量阈值与所获得的目标文件的所有可写数据块数量进行比较,若所说 明 书9/21页14CN 107145302 B14 述目标文件的所有可写数据块数量小于所述可写块数量阈值,则重新由元数据管理设备端分配从所存储或新被释放的数据块中分配差额数量的数据块,使得所述目标文件的可写数据块数量与所述可写块数量阈值相等,进而发送给各用户设备作为用户设备对应的若干可写数据块。
以三端模式的分布式存储系统为例,如果当前文件F已有的Chunk数量小于可写块数量阈值M,则重新分配足够数量的Chunk,新分配的Chunk数量加已有的Chunk数量等于可写块数量阈值M,将所有Chunk信息返回Client。
在此,每个由于单文件是多进程写入,因此,每个Client均保留一份完成的相对独立的目标文件对应的可写Chunk的信息,后期每个Client各自维护各自缓存中的Chunk信息,且每个之间的更新时间不同,随着时间的推移会有些许差异。
通过上述方式,可以通过可写块数量阈值控制,使得可写数据块维持在一定值,从而使得用户不需要对文件写入进行人工控制,减小用户的管理成本。

[0085]本领域技术人员应能理解上述确定目标文件对应可写数据块的方式仅为举例,其他现有的或今后可能出现的目标文件对应可写数据块的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0086]优选地,所述为所述目标文件分配其他可写的数据块包括:根据每个文件当前对应的在写数据块及每个在写数据块对应的块服务器,为所述目标文件分配其他可写的数据块,其中,每个其他可写的数据块对应的块服务器与每个在写数据块对应的块服务器小于或等于预定的块服务器重复阈值。
即在分配新的可写数据块所对应的数据块服务器时,尽量避免其所分配的数据块服务器是元数据管理设备端中已经记录的,从而减少数据块服务器同时接受多个数据块的写入请求从而造成写入热点的情况。
所述块服务器是指Chunksever,即数据管理模块本文亦称之为数据块服务器或块服务器,用于维护数据块副本的模块,提供数据块副本的访问的接口。
所述块服务器重复阈值是指允许块服务器同时提供不同的数据块进行写入的数量,例如,所述块服务器重复阈值为3,即每个块服务器仅可对三个数据块提供服务。
对数据块对应的块服务器的具体分配方式,以三端模式的分布式存储系统为例,在元数据管理设备端对Chunk位置的分配方面:记录当前可写Chunk所在的所有Chunkserver,这部分信息以缓存的形式存在,不需要持久化,宕机重启后可以根据上面记录的元数据信息恢复出来。
分配新的Chunk的时候,根据块服务器重复阈值避免新分配的Chunkserver与上述步骤记录的Chunkserver重复。
或者这一步操作采用尽量而为的策略,当集群可写的Chunkserver数量太少,无法满足不重复的要求的时候,也允许Chunk的分配动作成功。
文件内部的数据分部信息可见,有效的避免多个Chunk分布在相同的Chunkserver上,消除热点,保证了写入吞吐量的实际效果。

[0087]图3示出根据本申请一个优选实例的一种实现在分布式存储系统中执行文件写入的方法中的步骤S13流程图。
所述步骤S13包括步骤S131、步骤S132、步骤S133。

[0088]其中,在步骤S131中用户设备端接收关于所述目标文件的写入请求;在步骤S132中用户设备端将所述写入请求转发至所述多个可写数据块中当前第一个可写数据块对应的主数据管理设备,以对所述当前第一个可写数据块对应的一个或多个数据块副本执行文件写入;在步骤S133中用户设备端更新所述多个可写数据块中当前第一个可写数据块。

[0089]具体地,在步骤S131中用户设备端接收关于所述目标文件的写入请求。
即用户设备端接受关于所述目标文件的写入请求,因为所述目标文件可写入的数据块数量大于所述可写块数量阈值,因此支持用户同时发起相应数量的写入请求。
以三端模式的分布式存储说 明 书10/21页15CN 107145302 B15 系统为例,支持用户同时发起M个写请求,M等于当前可写Chunk的数量。
若干用户设备端Client同时接受若干关于单个文件的写请求,使得单个文件的写入速率提升,且多进程写入过程中多个客户端对同一个数据块进行写入,从而减小写入失败后重试所致的延时。

[0090]接着,在步骤S132中用户设备端将所述写入请求转发至所述多个可写数据块中当前第一个可写数据块对应的主数据管理设备,以对所述当前第一个可写数据块对应的一个或多个数据块副本执行文件写入。
即用户设备端在接受到所述目标文件对应的多个可写数据块后按照默认排序或依据一定的排序准则对所述可写数据块的主数据管理设备进行寻找,并传达相应的写入请求,从而在数据块及其副本上进行写入。
以三端模式的分布式存储系统为例,Client收到可写Chunk信息后按顺序缓存,同时将下次可写Chunk的序号I设置为第一个可写Chunk的序号,Client收到用户的写入请求,选取序号为I的Chunk,将数据写入请求发往这个Chunk的所有PrimaryChunkserver,同时将I序号修改为下一个可写Chunk的序号。

[0091]接着,在步骤S133中用户设备端更新所述多个可写数据块中当前第一个可写数据块。
即用户设备端按顺序对所有写入请求进行响应,即按顺序对所述数据块执行写入,当所述数据块排序所在的第一个可写数据块被执行写入后,将后续的所述可写数据块更新排序信息,例如上文举例,Client收到用户的写入请求,选取序号为I的Chunk,将数据写入请求发往这个Chunk的所有PrimaryChunkserver,同时将I序号修改为下一个可写Chunk的序号,即每当用户发起写请求的时候,根据序号I选择相应的Chunk,同时将I指向下一个Chunk,这样以轮询的方式访问所有的Chunk,避免某个Chunk成为写入的热点。

[0092]本领域技术人员应能理解上述对可写数据块进行轮询写入的方式仅为举例,其他现有的或今后可能出现的对可写数据块进行轮询写入的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0093]优选地,步骤S13还包括:步骤S134
(未示出),在步骤S134中用户设备端当接收到所述主数据管理设备返回的文件写入成功信息,回收所述当前第一个可写数据块以接收关于所述目标文件的新写入请求。
是指在某个可写数据块及其副本进行写入后,当主数据管理设备反馈写入成功后,用户设备端返回用户该数据块所对应的写入请求写入成功,进而因为当前所述可写数据块没有写满触发重新分配可写数据块的情况,因此可重新接受用户关于所述目标文件的写入请求。
以三端模式的分布式存储系统为例,当某个Chunk的对应的PrimaryChunkserver返回Client成功的时候,Client返回用户成功,写流程返回接收用户新的请求的阶段,从而充分利用可写数据块同时使得单文件的写入保持在一定数量数据块的同时写入中,提升单文件写入速率。

[0094]图4示出根据本申请另一个方面的元数据管理设备端、用户设备端以及主数据管理设备端配合实现的一种实现在分布式存储系统中执行文件写入的方法中修改可写块数量阈值的流程图。
为实现所述修改可写块数量阈值功能,所述用户设备端包括步骤S16。
所述元数据管理设备端包括步骤S25、步骤S26。

[0095]其中,在步骤S16中用户设备端将用户提交的关于所述目标文件的可写块数量阈值设置请求发送至所述元数据管理设备,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值。
在步骤S25中元主数据管理设备端接收所述用户设备发送的关于所述目标文件的可写块数量阈值设置请求,其中,所述可写块数量阈值设置请说 明 书11/21页16CN 107145302 B16 求包括关于所述目标文件的新的可写块数量阈值;在步骤S26中元数据管理设备端根据所述新的可写块数量阈值更新所述可写块数量阈值。

[0096]具体地,在步骤S16中用户设备端将用户提交的关于所述目标文件的可写块数量阈值设置请求发送至所述元数据管理设备,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值。
接着,在步骤S25中元数据管理设备端接收所述用户设备发送的关于所述目标文件的可写块数量阈值设置请求,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值;是指所述可写块数量阈值是可以根据用户的写入需求进行调整,将调整的具体数据和请求通过用户设备端发送至元数据块管理设备端即可。
具体执行中可比较当前可写的数据块数量与需要设置的所述可写块数量阈值是否相等,若相等则不进行修改,若不等,则将所述可写块数量阈值修改为所需的数值,但不限于此。
以三端模式的分布式存储系统为例,用户根据写入吞吐的要求,决定将可写Chunk的数量设置为M;用户调用Client接口,获取当前可写Chunk的数量;Client向Master发起请求,获取当前可写Chunk的数量;Master收到Client请求后在内存中找到文件可写Chunk的数量N,将N返回Client,Cilent将当前可写Chunk数量N返回用户;用户根据N和M的值进行判断,如果N==M,则无需修改;如果N!=M,则调用Client接口,设置当前可写Chunk的数量为M;Client向Master发起请求,将可写Chunk数量设置为M。

[0097]接着,在步骤S26中元数据管理设备端根据所述新的可写块数量阈值更新所述可写块数量阈值。
是指所述元数据块管理设备端接受请求根据所述请求中的新的可写块数量阈值对历史值进行更新或存储。
具体地,以三端模式的分布式存储系统为例,Master收到请求后将可写Chunk数量设置为M,同时将这个改动持久化。
优选地,可返回Client改动成功;Client返回用户改动成功。
通过以上方法为分布式文件系统添加了一种新的数据写入方式,允许单个文件同时可以写多个Chunk,同时可写Chunk的个数支持动态调整,从而用户不需要自己管理多路写入的文件,只需要根据写入的需求调整可写数据块的数量,节约用户管理成本。

[0098]图5示出根据本申请另一个方面的元数据管理设备、用户设备以及主数据管理设备配合实现的一种实现在分布式存储系统中执行文件写入的设备示意图。
其中,所述用户设备包括块信息请求发送装置111、块信息接受装置112、数据块写入执行装置113;所述元数据管理设备包括块信息请求获取装置121、可写数据块确定装置122、块信息反馈装置123;所述主数据管理设备端包括文件写入执行装置131、写入失败处理装置132以及数据块状态更新装置133。

[0099]其中,块信息请求发送装置111向元数据管理设备提交关于目标文件的可写数据块的块信息请求;块信息请求获取装置121获取用户设备提交的关于目标文件的可写数据块的块信息请求;可写数据块确定装置122根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块;块信息反馈装置123将所述多个可写数据块返回至所述用户设备;块信息接受装置112接收所述元数据管理设备基于所述块信息请求返回的、所述目标文件对应的多个可写数据块;数据块写入执行装置113向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入;文件写入执行装置131接收用户设备发送的对数据块执行文件写入的请求,并说 明 书12/21页17CN 107145302 B17 执行对所述数据块的文件写入;写入失败处理装置132若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求;数据块状态更新装置133更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。

[0100]具体地,所述用户设备中块信息请求发送装置111向元数据管理设备提交关于目标文件的可写数据块的块信息请求;所述元数据管理设备中块信息请求获取装置121获取用户设备提交的关于目标文件的可写数据块的块信息请求。
其中,所述用户设备端是指分布式存储系统中用于为用户提供各种接口的端口模块,以三端模式的分布式存储系统为例,所述用户设备端即为客户端即Client,下文这三种代称均指代用户设备端。
所述元数据管理设备端是指分布式存储系统中管理分布式存储系统中元数据的模块,以三端模式的分布式存储系统为例,所述元数据管理设备端即为Master也就是命名空间管理模块。
所述目标文件即为需要执行写入的文件,通常在分布式存储系统中会预先创建好但不限于此,所有需要执行写入的文件均可成为目标文件。
所述数据块是指一段用户逻辑数据,以字节流的形式存储,用于目标文件的数据写入,以三端模式的分布式存储系统为例,数据块即为该系统中所称的chunk。
所述关于目标文件的可写数据块的块信息是指可以用于执行目标文件写入的当前可写的数据块及其位置,数量等信息。
所述提交和获取请求的方法包括但不限于通过分布式存储系统自有接口进行,以三端模式的分布式存储系统为例,Client客户端启动,在此因为是多进程同时对一个文件进行写入,所以是多个客户端均向Master发送获取目标文件F所有可以写的Chunk的信息的请求。
通过上述动作,可以使得元数据管理设备端发起对目标文件可写数据块的块信息的查找,从而使得文件写入流程启动。

[0101]本领域技术人员应能理解上述发送和获取关于目标文件的可写数据块的块信息请求的方式仅为举例,其他现有的或今后可能出现的发送和获取关于目标文件的可写数据块的块信息请求的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0102]接着,所述元数据管理设备中可写数据块确定装置122根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块。
即根据可写块数量阈值将与所述阈值比较的符合预置数目的目标文件可写数据块分配给所述用户设备进行写入,当若干用户设备同时对目标文件进行写入,所分配给用户设备的可写数据块列表是一致的,例如,所述可写块数量阈值为M,则以三端模式的分布式存储系统为例,元数据块管理设备端Master收到请求后在内存中找到目标文件F所有可以写的Chunk的信息T和可以写的Chunk的数量M,若T大于或等于M则确定这T个可写数据块Chunk为目标文件F所对应的可写数据块。
所述可写块数量阈值是指所设置的控制可写数据块数量的阈值,在此,块即指代数据块,此指代上下文均通用,所述可写块数量阈值可根据写入吞吐量或速率的要求进行设置,本阈值的存在使得用户不需要自己管理多路写入的文件,只需要根据写入的需求调整可写数据块的数量,此外,所述可写块数量阈值亦可以根据系统的要求设置系统自行调整,或进行初始设定。
所述用户设备对应的多个可写数据块是指每个写入文件可以有一个以上的可写数据块,因此对其进行写入的用户设备也对应多个可写数据块,在三端模式的分布式存储系统中,现有技术仅支持每个目标文件在元数据块管理设备端Master说 明 书13/21页18CN 107145302 B18 有一个可写数据块,在本申请的实施例中可以通过对用户设备端以及元数据管理设备端的接口间的协议进行设置,使得每个目标文件在元数据块管理设备端有多个可写数据块,从而能够达到单文件写入时支持多个数据块同时写入的目的,使得文件写入不受限于单个机器的物理资源,进而提高单文件写入的效率、降低写入热点的形成概率。

[0103]其中,在本申请的实施例中通过对用户设备端以及元数据管理设备端的接口间的协议进行设置的方法,以三端模式的分布式存储系统为例,在元数据块管理设备端Master中设置如下:在面向用户设备端Client的服务和协议方面,对于获取文件可写数据块Chunk信息的服务:扩展现有协议,增加对可写的数据块Chunk有多个的支持;对于可写数据块Chunk数量的服务:增加设置文件可写数据块Chunk数量的协议和服务,增加获取文件可写数据块Chunk数量的协议和服务。
在用户设备端Client中设置如下:在面向元数据块管理设备端Master协议方面:对于获取文件可写数据块Chunk信息的协议:扩展现有协议,增加对可写的数据块Chunk有多个的支持;对于可写数据块Chunk数量的接口:增加设置文件可写数据块Chunk数量的协议,增加获取文件可写数据块Chunk数量的协议;在对于在面向用户的接口方面:对于可写数据块Chunk数量的接口:增加设置文件可写数据块Chunk数量的接口,增加获取文件可写数据块Chunk数量的接口。
以上设置使得每个目标文件在元数据块管理设备端有多个可写数据块,从而能够达到单文件写入时支持多个数据块同时写入的目的,满足用户需求,同时在元数据块管理设备端Master只耗费了单个文件的内存,没有降低集群服务用户的数量。

[0104]本领域技术人员应能理解上述对用户设备端以及元数据管理设备端的接口间的协议进行设置使得每个目标文件在元数据块管理设备端有多个可写数据块的方式仅为举例,其他现有的或今后可能出现的对用户设备端以及元数据管理设备端的接口间的协议进行设置使得每个目标文件在元数据块管理设备端有多个可写数据块的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0105]接着,所述元数据管理设备中块信息反馈装置123将所述多个可写数据块返回至所述用户设备;所述用户设备中块信息接受装置112接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块。
即如上文所述确定所述目标文件对应的多个可写数据块后将所述数据块及其相关信息由元数据管理设备端返回至用户设备端,所述用户设备对应的多个可写数据块即返回的每个用户设备所要写入的申请目标文件所对应的可写数据块,以三端模式的分布式存储系统为例,接上文举例,元数据管理设备端Master将目标文件F所有可以写的数据块Chunk的数量T及其相关信息从内存中找到并进行反馈,反馈的方式包括但不限于通过分布式存储系统自有接口进行。

[0106]其中,所述元数据管理设备端内存中的所述目标文件对应的可写数据块的数量以及相关信息的获取方式包括但不限于在获取每个在分布式存储系统中文件后,元数据管理设备端即存储其所有正在写以及允许写的数据块信息,以三端模式的分布式存储系统为例,元数据块管理设备端Master在文件的元数据存储方面:负责存储每个文件当前所有正在写的数据块Chunk信息,例如数据块的副本位置;负责存储每个文件当前所允许的可写数据块Chunk的数量。
以上信息在元数据块管理设备端Master端都需要进行持久化的保存,宕机重启后不会丢失,从而使得可以在用户设备端需要目标文件是可以及时查找到。

[0107]本领域技术人员应能理解上述元数据管理设备端对每个文件数据块存储的方式说 明 书14/21页19CN 107145302 B19 仅为举例,其他现有的或今后可能出现的元数据管理设备端对每个文件数据块存储的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0108]接着,所述用户设备中数据块写入执行装置113向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入;所述主数据管理设备中文件写入执行装置131接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入。
即因为所述目标文件有对应的多个可写数据块,因此,在所述用户设备端获得所述可写数据块相关信息后将所述多个可写数据块进行排序,或按照默认顺序依次在接受到目标文件的写入请求后对应的主数据管设备请求写入。
以三端模式的分布式存储系统为例,用户设备端Client将所接到的目标文件F所有的对应的可写数据块Chunk之后,在按照默认或设置的顺序对某一Chunk进行写入时,寻找其相应的数据块服务器即Chunksever进行相应副本的写入,其中,因为本实施例中是多进程写入,因此,将写入请求发往进行主导的主数据块服务器即PrimaryChunksever,进而主数据服务器在接受到写入请求后,将所接受到的客户端数据进行排序,在本地存储数据的同时向从数据块服务器即SecondaryChunksever进行转发,主从数据块服务器的工作模式可以参考微软Azure中的底层分布式存储系统中数据存储节点的工作模式,主从数据块服务器在收到写入请求后即执行对文件的写入。
在此,所举例的数据块服务器,以及Chunksever均是指所述主数据管理设备或从数据管理设备,在上下文三种代称通用。
Chunksever的信息的获取方式包括但不限于由元数据管理设备端Master记录当前可写Chunk所在的所有Chunkserver,这部分信息以缓存的形式存在,不需要持久化,宕机重启后可以根据之前所记录的信息恢复出来,也就是从所负责存储的每个文件当前所有正在写的数据块Chunk信息中进行恢复;用户设备端Client存储文件当前所有可写的Chunk信息,这部分信息以缓存的形式存在,不需要持久化,宕机重启后从Master端重新获取。

[0109]本领域技术人员应能理解上述保存和获取数据块对应数据块服务器信息的方式仅为举例,其他现有的或今后可能出现的保存和获取数据块对应数据块服务器信息的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0110]接着,写入失败处理装置132若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求。
其中,所述写入失败泛指造成写失败的场景,例如网络延时高或网络不通,以及磁盘延时高或无法写入等。
因为多个用户设备同时对同一文件进行写入操作,因此,当某一用户设备对主数据管理设备发送写入请求后,该主数据管理设备对数据块写入的过程中发生写失败的情况,则主数据管理设备反馈该用户设备写入失败,同时拒绝所有用户设备新发起的写入请求,从而避免对写失败的数据块再次发起写入进而导致失败。
以三端模式的分布式存储系统为例,即当PrimaryChunkserver遇到failover的时候,一方面,对于已经接受的请求,返回Client失败,拒绝所有Client新发起的写请求。

[0111]接着,数据块状态更新装置133更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。
即将当前写失败的数据块设置为不可写的状态,并将这一状态反馈至元数据管理设备端,从而将其所存储的所述数据块进行更新,使得后续会导致写入失败的数据块不会被再次写入。
以三端模式的分布式存储系统为例,即PrimaryChunkserver将写入失败的Chunk状态设置为不可写,并持久化存储,同时将该写入说 明 书15/21页20CN 107145302 B20 失败的Chunk的状态汇报给Master,要求Master进行持久化存储。
在此,数据块不可写的状态的设置由主数据管理设备端和元数据管理设备端负责,避免了不必要的数据块切换,降低了非全局写入失败场景下的写延时的增长,提高了系统可用性。
同时,因为避免了不必要的数据块切换,减少了写入不多即切换所产生的小数据块的比例,提高了系统的服务规模。

[0112]优选地,所述设备包括数据块状态接受装置124
(未示出),所述元数据管理设备端中所述数据块状态接受装置124接收对应主数据管理设备发送的所述多个可写数据块之一的数据块更新状态,其中,所述数据块更新状态为不可写。
即将上述主数据管理设备送的某个数据块不可写的状态进行接收并在本地持久化存储,例如,接上文举例,Master接收到PrimaryChunkserver所汇报的某个数据块被设置为不可写的信息后,根据其要求对这一状态进行本地持久化存储,从而避免不可写的数据块再次被用户设备端所获取从而造成不必要的写失败。

[0113]本领域技术人员应能理解上述主数据管理设备端和元数据管理设备端处理写失败数据块的方式仅为举例,其他现有的或今后可能出现的主数据管理设备端和元数据管理设备端处理写失败数据块的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0114]优选地,所述设备还包括数据块写尽处理装置114
(未示出),所述用户设备中数据块写尽处理装置114当所述多个可写数据块均为不可写时,向所述元数据管理设备重新提交关于所述目标文件的可写数据块的块信息请求。
是指在对目标文件所对应的数据块进行写入时,若遇到从元数据管理设备端所获得的可写数据块均写完或不可写的情况,则需要向元数据管理设备重新提交获取同样目标文件的可写数据及其相关信息的请求,此时,如前文中实施例所述,将之前的步骤重新进行一遍。
以三端模式的分布式存储系统为例,当Client发现缓存中没有可写的Chunk时,向Master发送获取文件F所有可以写的Chunk的信息的请求,重新分配获取可写Chunk的数量,使得所述用户设备端获取目标文件所对应的新的可写数据块,从而继续进行文件的写入。

[0115]优选地,所述设备还包括写入失败删除装置115
(未示出),所述用户设备中写入失败删除装置115若发生对所述数据块执行文件写入的失败,将写失败对应的所述目标文件对应的数据块信息删除。
其中,所述写失败的情况包括主数据管理设备对数据块写入所发生的失败,也包括用户设备端与主数据管理设备之间所发生的失败情况,例如,两者之间用于传递信息的网络出现故障。
在用户设备端获取到写入失败信息后,将这一数据块信息直接进行删除,进而直接在从元数据管理设备端所获取的目标文件对应的可写数据块中选择另一个数据块重新进行写入。
以三端模式的分布式存储系统为例,当Client遇到写入失败,将写入失败对应的Chunk信息从缓存中删除,但不改变这个Chunk的状态,进而从缓存中所有的当前可写Chunk中按顺序选择下一个Chunk进行重试,从而避免了在,降低了非全局写入失败场景下的写延时的增长。

[0116]图6示出根据本申请另一个优选实例的一种实现在分布式存储系统中执行文件写入的设备中可写数据块确定装置示意图。
其中,所述可写数据块确定装置122包括候选数据块确定单元1221、直接反馈单元1222、重分配反馈单元1223。

[0117]其中,候选数据块确定单元1221确定所述目标文件对应的所有可写的数据块;直接反馈单元1222若所述所有可写的数据块的数量等于或大于所述目标文件对应的可写块说 明 书16/21页21CN 107145302 B21 数量阈值,则将所述所有可写的数据块作为所述用户设备对应的多个可写数据块;否则,重分配反馈单元1223为所述目标文件分配其他可写的数据块,并将所述其他可写的数据块及所述所有可写的数据块作为所述用户设备对应的多个可写数据块,其中,所述多个可写数据块的数量等于可写块数量阈值。

[0118]具体地,候选数据块确定单元1221确定所述目标文件对应的所有可写的数据块。
是指确定所述目标文件的所有可写数据块信息,获取的方法包括如上文所述从所述元数据管理设备端所存储的元数据信息中的每个文件当前所允许的可写数据块的数量,即以三端模式的分布式存储系统为例,因为元数据块管理设备端Master在文件的元数据存储方面:负责存储每个文件当前所有正在写的数据块Chunk信息,例如数据块的副本位置;负责存储每个文件当前所允许的可写数据块Chunk的数量,因此可以从Master端中找到目标文件F的所有可写数据块,假设所找到的目标文件F的所有可写数据块为T。

[0119]接着,直接反馈单元1222若所述所有可写的数据块的数量等于或大于所述目标文件对应的可写块数量阈值,则将所述所有可写的数据块作为所述用户设备对应的多个可写数据块。
即将根据系统默认或用户根据写入要求所设置的可写块数量阈值与所获得的目标文件的所有可写数据块数量进行比较,若所述目标文件的所有可写数据块数量不小于所述可写块数量阈值则将所述目标文件的所有可写数据块及其相关信息直接由元数据管理设备端反馈给用户设备端,使之作为用户设备需要写入的目标文件对应的可写数据块进行写入。
以三端模式的分布式存储系统为例,如果当前目标文件F已有的Chunk数量不小于可写块数量阈值M,则将这些Chunk信息返回Client。

[0120]接着,若所述所有可写的数据块的数量小于所述目标文件对应的可写块数量阈值,重分配反馈单元1223为所述目标文件分配其他可写的数据块,并将所述其他可写的数据块及所述所有可写的数据块作为所述用户设备对应的多个可写数据块,其中,所述多个可写数据块的数量等于可写块数量阈值。
即将根据系统默认或用户根据写入要求所设置的可写块数量阈值与所获得的目标文件的所有可写数据块数量进行比较,若所述目标文件的所有可写数据块数量小于所述可写块数量阈值,则重新由元数据管理设备端分配从所存储或新被释放的数据块中分配差额数量的数据块,使得所述目标文件的可写数据块数量与所述可写块数量阈值相等,进而发送给各用户设备作为用户设备对应的若干可写数据块。
以三端模式的分布式存储系统为例,如果当前文件F已有的Chunk数量小于可写块数量阈值M,则重新分配足够数量的Chunk,新分配的Chunk数量加已有的Chunk数量等于可写块数量阈值M,将所有Chunk信息返回Client。
在此,每个由于单文件是多进程写入,因此,每个Client均保留一份完成的相对独立的目标文件对应的可写Chunk的信息,后期每个Client各自维护各自缓存中的Chunk信息,且每个之间的更新时间不同,随着时间的推移会有些许差异。
通过上述方式,可以通过可写块数量阈值控制,使得可写数据块维持在一定值,从而使得用户不需要对文件写入进行人工控制,减小用户的管理成本。

[0121]本领域技术人员应能理解上述确定目标文件对应可写数据块的方式仅为举例,其他现有的或今后可能出现的目标文件对应可写数据块的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0122]优选地,所述为所述目标文件分配其他可写的数据块包括:根据每个文件当前对应的在写数据块及每个在写数据块对应的块服务器,为所述目标文件分配其他可写的数据说 明 书17/21页22CN 107145302 B22 块,其中,每个其他可写的数据块对应的块服务器与每个在写数据块对应的块服务器小于或等于预定的块服务器重复阈值。
即在分配新的可写数据块所对应的数据块服务器时,尽量避免其所分配的数据块服务器是元数据管理设备端中已经记录的,从而减少数据块服务器同时接受多个数据块的写入请求从而造成写入热点的情况。
所述块服务器是指Chunksever,即数据管理模块本文亦称之为数据块服务器或块服务器,用于维护数据块副本的模块,提供数据块副本的访问的接口。
所述块服务器重复阈值是指允许块服务器同时提供不同的数据块进行写入的数量,例如,所述块服务器重复阈值为3,即每个块服务器仅可对三个数据块提供服务。
对数据块对应的块服务器的具体分配方式,以三端模式的分布式存储系统为例,在元数据管理设备端对Chunk位置的分配方面:记录当前可写Chunk所在的所有Chunkserver,这部分信息以缓存的形式存在,不需要持久化,宕机重启后可以根据上面记录的元数据信息恢复出来。
分配新的Chunk的时候,根据块服务器重复阈值避免新分配的Chunkserver与上述步骤记录的Chunkserver重复。
或者这一步操作采用尽量而为的策略,当集群可写的Chunkserver数量太少,无法满足不重复的要求的时候,也允许Chunk的分配动作成功。
文件内部的数据分部信息可见,有效的避免多个Chunk分布在相同的Chunkserver上,消除热点,保证了写入吞吐量的实际效果。

[0123]图7示出根据本申请另一个优选实例的一种实现在分布式存储系统中执行文件写入的设备中数据块写入请求发送装置示意图。
所述数据块写入执行装置113包括写入请求接受单元1131、数据块写入请求发送单元1132、数据块更新单元1133。

[0124]其中,写入请求接受单元1131接收关于所述目标文件的写入请求;数据块写入请求发送单元1132将所述写入请求转发至所述多个可写数据块中当前第一个可写数据块对应的主数据管理设备,以对所述当前第一个可写数据块对应的一个或多个数据块副本执行文件写入;数据块更新单元1133更新所述多个可写数据块中当前第一个可写数据块。

[0125]具体地,写入请求接受单元1131接收关于所述目标文件的写入请求。
即用户设备端接受关于所述目标文件的写入请求,因为所述目标文件可写入的数据块数量大于所述可写块数量阈值,因此支持用户同时发起相应数量的写入请求。
以三端模式的分布式存储系统为例,支持用户同时发起M个写请求,M等于当前可写Chunk的数量。
若干用户设备端Client同时接受若干关于单个文件的写请求,使得单个文件的写入速率提升,且多进程写入过程中多个客户端对同一个数据块进行写入,从而减小写入失败后重试所致的延时。

[0126]接着,数据块写入请求发送单元1132将所述写入请求转发至所述多个可写数据块中当前第一个可写数据块对应的主数据管理设备,以对所述当前第一个可写数据块对应的一个或多个数据块副本执行文件写入。
即用户设备端在接受到所述目标文件对应的多个可写数据块后按照默认排序或依据一定的排序准则对所述可写数据块的主数据管理设备进行寻找,并传达相应的写入请求,从而在数据块及其副本上进行写入。
以三端模式的分布式存储系统为例,Client收到可写Chunk信息后按顺序缓存,同时将下次可写Chunk的序号I设置为第一个可写Chunk的序号,Client收到用户的写入请求,选取序号为I的Chunk,将数据写入请求发往这个Chunk的所有PrimaryChunkserver,同时将I序号修改为下一个可写Chunk的序号。

[0127]接着,数据块更新单元1133更新所述多个可写数据块中当前第一个可写数据块。
即用户设备端按顺序对所有写入请求进行响应,即按顺序对所述数据块执行写入,当所述说 明 书18/21页23CN 107145302 B23 数据块排序所在的第一个可写数据块被执行写入后,将后续的所述可写数据块更新排序信息,例如上文举例,Client收到用户的写入请求,选取序号为I的Chunk,将数据写入请求发往这个Chunk的所有PrimaryChunkserver,同时将I序号修改为下一个可写Chunk的序号,即每当用户发起写请求的时候,根据序号I选择相应的Chunk,同时将I指向下一个Chunk,这样以轮询的方式访问所有的Chunk,避免某个Chunk成为写入的热点。

[0128]本领域技术人员应能理解上述对可写数据块进行轮询写入的方式仅为举例,其他现有的或今后可能出现的对可写数据块进行轮询写入的方式如可适用于本申请,也应包含在本申请保护范围以内,并在此以引用方式包含于此。

[0129]优选地,所述数据块写入执行装置113还包括:新写入请求接受单元1134
(未示出),所述新写入请求接受单元1134当接收到所述主数据管理设备返回的文件写入成功信息,回收所述当前第一个可写数据块以接收关于所述目标文件的新写入请求。
是指在某个可写数据块及其副本进行写入后,当主数据管理设备反馈写入成功后,用户设备端返回用户该数据块所对应的写入请求写入成功,进而因为当前所述可写数据块没有写满触发重新分配可写数据块的情况,因此可重新接受用户关于所述目标文件的写入请求。
以三端模式的分布式存储系统为例,当某个Chunk的对应的PrimaryChunkserver返回Client成功的时候,Client返回用户成功,写流程返回接收用户新的请求的阶段,从而充分利用可写数据块同时使得单文件的写入保持在一定数量数据块的同时写入中,提升单文件写入速率。

[0130]图8示出根据本申请另一个方面的元数据管理设备以及用户设备配合实现的一种实现在分布式存储系统中执行文件写入的设备中实现修改可写块数量阈值功能的示意图。
为实现所述修改可写块数量阈值功能,所述用户设备包括可写块数量阈值设置请求发送装置116。
所述元数据管理设备包括可写块数量阈值设置请求接受装置125、可写块数量阈值更新装置126。

[0131]其中,可写块数量阈值设置请求发送装置116将用户提交的关于所述目标文件的可写块数量阈值设置请求发送至所述元数据管理设备,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值。
可写块数量阈值设置请求接受装置125接收所述用户设备发送的关于所述目标文件的可写块数量阈值设置请求,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值;可写块数量阈值更新装置126根据所述新的可写块数量阈值更新所述可写块数量阈值。

[0132]具体地,可写块数量阈值设置请求发送装置116将用户提交的关于所述目标文件的可写块数量阈值设置请求发送至所述元数据管理设备,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值。
接着,可写块数量阈值设置请求接受装置125接收所述用户设备发送的关于所述目标文件的可写块数量阈值设置请求,其中,所述可写块数量阈值设置请求包括关于所述目标文件的新的可写块数量阈值;是指所述可写块数量阈值是可以根据用户的写入需求进行调整,将调整的具体数据和请求通过用户设备端发送至元数据块管理设备端即可。
具体执行中可比较当前可写的数据块数量与需要设置的所述可写块数量阈值是否相等,若相等则不进行修改,若不等,则将所述可写块数量阈值修改为所需的数值,但不限于此。
以三端模式的分布式存储系统为例,用户根据写入吞吐的要求,决定将可写Chunk的数量设置为M;用户调用Client接口,获取当前可写Chunk的数量;Client向Master发起请求,获取当前可写Chunk的数量;Master收到Client请求后在内存中说 明 书19/21页24CN 107145302 B24 找到文件可写Chunk的数量N,将N返回Client,Cilent将当前可写Chunk数量N返回用户;用户根据N和M的值进行判断,如果N==M,则无需修改;如果N!=M,则调用Client接口,设置当前可写Chunk的数量为M;Client向Master发起请求,将可写Chunk数量设置为M。

[0133]接着,可写块数量阈值更新装置126根据所述新的可写块数量阈值更新所述可写块数量阈值。
是指所述元数据块管理设备端接受请求根据所述请求中的新的可写块数量阈值对历史值进行更新或存储。
具体地,以三端模式的分布式存储系统为例,Master收到请求后将可写Chunk数量设置为M,同时将这个改动持久化。
优选地,可返回Client改动成功;Client返回用户改动成功。
通过以上方法为分布式文件系统添加了一种新的数据写入方式,允许单个文件同时可以写多个Chunk,同时可写Chunk的个数支持动态调整,从而用户不需要自己管理多路写入的文件,只需要根据写入的需求调整可写数据块的数量,节约用户管理成本。

[0134]此外,本申请提供了一种用于在分布式存储系统中执行文件写入的元数据管理设备,其中,该设备包括:
[0135]处理器;
[0136]以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
[0137]获取用户设备提交的关于目标文件的可写数据块的块信息请求;
[0138]根据所述目标文件对应的可写块数量阈值确定所述用户设备对应的多个可写数据块,其中,所述多个可写数据块包括已分配给所述目标文件的其他用户设备的可写数据块或新分配的可写数据块;
[0139]将所述多个可写数据块返回至所述用户设备。

[0140]此外,本申请提供了一种用于在分布式存储系统中执行文件写入的用户设备,其中,该设备包括:
[0141]处理器;
[0142]以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
[0143]向元数据管理设备提交关于目标文件的可写数据块的块信息请求;
[0144]接收所述元数据管理设备基于所述块信息请求返回的、所述用户设备对应的多个可写数据块;
[0145]向对应主数据管理设备发送关于所述目标文件的写入请求以对所述多个可写数据块中之一执行文件写入。

[0146]此外,本申请提供了一种用于在分布式存储系统中执行文件写入的主数据管理设备,其中,该设备包括:处理器;
[0147]以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:
[0148]接收用户设备发送的对数据块执行文件写入的请求,并执行对所述数据块的文件写入;
[0149]若发生对所述数据块执行文件写入的失败,向所述用户设备报告失败信息,并拒绝与所述用户设备对应同一文件的其他用户设备对所述数据块执行文件写入的请求;说 明 书20/21页25CN 107145302 B25
[0150]更新所述数据块的状态为不可写,并向对应元数据管理设备报告所述数据块更新后的状态。

[0151]显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。
这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。

[0152]显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。
这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。

[0153]需要注意的是,本申请可在软件和/或软件与硬件的组合体中被实施,例如,可采用专用集成电路
(ASIC)、通用目的计算机或任何其他类似硬件设备来实现。
在一个实施例中,本申请的软件程序可以通过处理器执行以实现上文所述步骤或功能。
同样地,本申请的软件程序
(包括相关的数据结构)可以被存储到计算机可读记录介质中,例如,RAM存储器,磁或光驱动器或软磁盘及类似设备。
另外,本申请的一些步骤或功能可采用硬件来实现,例如,作为与处理器配合从而执行各个步骤或功能的电路。

[0154]另外,本申请的一部分可被应用为计算机程序产品,例如计算机程序指令,当其被计算机执行时,通过该计算机的操作,可以调用或提供根据本申请的方法和/或技术方案。
而调用本申请的方法的程序指令,可能被存储在固定的或可移动的记录介质中,和/或通过广播或其他信号承载媒体中的数据流而被传输,和/或被存储在根据所述程序指令运行的计算机设备的工作存储器中。
在此,根据本申请的一个实施例包括一个装置,该装置包括用于存储计算机程序指令的存储器和用于执行程序指令的处理器,其中,当该计算机程序指令被该处理器执行时,触发该装置运行基于前述根据本申请的多个实施例的方法和/或技术方案。

[0155]对于本领域技术人员而言,显然本申请不限于上述示范性实施例的细节,而且在不背离本申请的精神或基本特征的情况下,能够以其他的具体形式实现本申请。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本申请的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本申请内。
不应将权利要求中的任何附图标记视为限制所涉及的权利要求。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。
装置权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。
第一,第二等词语用来表示名称,而并不表示任何特定的顺序。
说 明 书21/21页26CN 107145302 B26 图1图2说 明 书 附 图1/5页27CN 107145302 B27 图3说 明 书 附 图2/5页28CN 107145302 B28 图4图5说 明 书 附 图3/5页29CN 107145302 B29 图6图7说 明 书 附 图4/5页30CN 107145302 B30 图8说 明 书 附 图5/5页31CN 107145302 B31
本文来自网络,不代表本网站立场,转载请注明出处:https://www.cange.org.cn/famingzhuanli/406463.html

一种用于在分布式存储系统中执行文件写入的方法与设备的相关文章

  • 一种用于高浓度酚氨废水的光电催化回收处理装置

    申请号 201710115970.X 申请日 2017.03.01 同一申请的已公布的文献号 CN 106865844 A 2017.06.20 专利权人 太原理工大学地址 030024 山西省太原市万柏林区迎泽西大街79号 发明人 杨慧敏 梁锦陶 刘宪

    发明专利
  • 紫草多糖及其在制备抗补体药物中的用途

    申请号 201710115898.0 申请日 2017.03.01 同一申请的已公布的文献号 CN 107456460 A 2017.12.12 本国优先权数据201610392730.X 2016.06.03 CN 专利权人 复旦大学地址 200433 上海市杨浦区邯郸路220号 发明人

    发明专利
  • 一种鸭肉香精及其生产工艺

    申请号 201710115771.9 申请日 2017.03.01 同一申请的已公布的文献号 CN 106820067 A 2017.06.13 专利权人 厦门市顶味兴业香料发展有限公司地址 361000 福建省厦门市海沧区新阳街道翁角路759号2号厂

    发明专利
  • 包括聚合物组合物的衣服带

    申请号 201710115715.5 申请日 2009.05.01 同一申请的已公布的文献号 CN 107028256 A 2017.08.11 优先权数据61/049575 2008.05.01 US 分案原申请数据200980125917.1 2009.05.01 专利权人 英威达技术有限公司地址

    发明专利
  • 一种纳米脂质微泡的制备方法及应用

    申请号 201710115461.7 申请日 2017.02.28 同一申请的已公布的文献号 CN 106798729 A 2017.06.06 专利权人 居颂光地址 215000 江苏省苏州市沧浪区里河新村29-1幢102室 发明人 居颂光 居颂文 专利代理机

    发明专利
  • 一种轻质高强的泡沫碳基绝热复合材料

    申请号 201710115405.3 申请日 2017.02.22 同一申请的已公布的文献号 CN 106904973 A 2017.06.30 专利权人 南京航空航天大学地址 210016 江苏省南京市秦淮区御道街29号 发明人 陈照峰 余盛杰 汪洋 I

    发明专利