行业标准网
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210512455.6 (22)申请日 2022.05.12 (71)申请人 平安科技 (深圳) 有限公司 地址 518000 广东省深圳市福田区福田街 道福安社区益田路5033号平 安金融中 心23楼 (72)发明人 郭巧佳  (74)专利代理 机构 深圳市沃德知识产权代理事 务所(普通 合伙) 44347 专利代理师 高杰 于志光 (51)Int.Cl. G06F 16/21(2019.01) G06F 16/215(2019.01) G06F 9/50(2006.01) G06F 16/22(2019.01) (54)发明名称 数据迁移方法、 装置、 设备及存 储介质 (57)摘要 本发明涉及数据处理领域, 揭露一种数据迁 移方法, 包括: 获取数据源表中的待迁移数据集 及数据迁移目标表; 将待迁移数据集进行数据编 排, 得到编排待迁移数据集; 将编排待迁移数据 集进行切分操作, 得到切分待迁移数据集; 将多 个数据迁移任务按照预设的优先级进行排序, 并 根据排序后的数据迁移任务将切分待迁移数据 集迁移至 数据迁移目标表中。 本发 明还涉及一种 区块链技术, 待迁移数据集可存储在区块链节点 中。 本发明还提出一种数据迁移装置、 设备以及 介质。 本发明可以提高数据迁移效率。 权利要求书2页 说明书12页 附图3页 CN 114860690 A 2022.08.05 CN 114860690 A 1.一种数据迁移方法, 其特 征在于, 所述方法包括: 获取数据源表中的待迁移数据集及数据迁移目标表; 将所述待迁移数据集进行 数据编排, 得到编排待迁移数据集; 将所述编排待迁移数据集进行切分操作, 得到切分待迁移数据集; 创建所述切分待迁移数据集的多个数据迁移任务, 将多个所述数据迁移任务按照预设 的优先级进行排序, 得到排序数据迁移任务, 并根据所述排序数据迁移任务将所述切分待 迁移数据集迁移至所述数据迁移目标表中。 2.如权利要求1所述的数据迁移方法, 其特征在于, 所述将所述待迁移数据集进行数据 编排, 得到编排待迁移数据集, 包括: 获取所述待迁移数据集的数据类型; 根据所述数据类型, 识别所述待迁移数据集的数据结构; 根据预设的编排 规则将所述数据结构进行编排, 得到所述编排待迁移数据集。 3.如权利要求1所述的数据迁移方法, 其特征在于, 所述将所述编 排待迁移数据集进行 切分操作, 得到切分待迁移数据集, 包括: 将所述数据源库进行分库操作, 得到多个数据源分库; 在多个所述数据源分库中进行分表操作, 得到多个数据源分表; 根据多个所述数据源分表将所述编排待迁移数据集进行切分, 得到所述切分待迁移数 据集。 4.如权利要求1所述的数据迁移方法, 其特征在于, 所述创建所述切分待迁移数据集的 多个数据迁移任务, 包括: 获取所述切分待迁移数据集的切分编号及切分地址; 将所述切分待迁移数据集与对应的所述切分编 号及所述切分地址分别进行关联, 得到 所述切分待迁移数据集的多个数据迁移任务。 5.如权利要求1所述的数据迁移方法, 其特征在于, 所述根据所述排序 数据迁移任务将 所述切分待迁移数据集迁移至所述数据迁移目标表中, 包括: 执行所述排序数据迁移任务, 利用预设的插件读取所述排序数据迁移任务的执行参 数; 将所述执 行参数与预设的负荷系数进行对比; 当所述执行参数未超过所述负荷系数阈值 时, 利用预设的数据迁移工具将所述切分待 迁移数据集 通过预设的迁移线程加载至所述数据迁移目标表中; 当所述执行参数超过所述负荷系数阈值时, 新增多个迁移线程, 利用所述数据迁移工 具依次将所述切分待迁移数据集 通过多个所述迁移线程加载至所述数据迁移目标表中。 6.如权利要求1所述的数据迁移方法, 其特征在于, 所述根据所述排序 数据迁移任务将 所述切分待迁移数据集迁移至所述数据迁移目标表中之后, 所述方法还 包括: 根据预设的全量规则核对所述切分待迁移数据集与所述数据迁移目标表中的全量迁 移数据集的一致性, 当所述切分待迁移数据集与所述全量迁移数据集不一致时, 记录所述 切分待迁移数据集的迁移异常点, 根据所述迁移异常点, 重新执行切分待迁移数据集的数 据迁移; 根据预设的增量规则核对所述切分待迁移数据集与所述数据迁移目标表中的增量迁权 利 要 求 书 1/2 页 2 CN 114860690 A 2移数据集的一致性, 当所述切分待迁移数据集与所述增量迁移数据集不一致时, 记录所述 切分待迁移数据集的迁移异常点, 根据所述迁移异常点, 重新执行切分待迁移数据集的数 据迁移。 7.如权利要求1所述的数据迁移方法, 其特征在于, 所述获取数据源表中的待迁移数据 集及数据迁移目标表之后, 所述方法还 包括: 对所述待迁移数据集进行去重操作, 并检测去重后的所述待迁移数据集中是否存在数 据缺失值; 若不存在数据缺失值, 则得到去重后的所述待迁移数据集; 若存在数据缺失值, 则对所述数据缺失值进行填充, 得到填充后的待迁移数据集。 8.一种数据迁移装置, 其特 征在于, 所述装置包括: 数据获取模块, 用于获取 数据源表中的待迁移数据集及数据迁移目标表; 数据编排模块, 用于将所述待迁移数据集进行 数据编排, 得到编排待迁移数据集; 数据切分模块, 用于将所述编排待迁移数据集进行切分操作, 得到切分待迁移数据集; 数据迁移模块, 用于创建所述切分待迁移数据集的多个数据迁移任务, 将多个所述数 据迁移任务按照预设的优先级进行排序, 得到排序数据迁移任务, 并根据所述排序数据迁 移任务将所述切分待迁移数据集迁移至所述数据迁移目标表中。 9.一种电子设备, 其特 征在于, 所述电子设备包括: 至少一个处 理器; 以及, 与所述至少一个处 理器通信连接的存 储器; 其中, 所述存储器存储有可被所述至少一个处理器执行的计算机程序, 所述计算机程序被所 述至少一个处理器执行, 以使 所述至少一个处理器能够执行如权利要求 1至7中任一项所述 的数据迁移方法。 10.一种计算机可读存储介质, 存储有计算机程序, 其特征在于, 所述计算机程序被处 理器执行时实现如权利要求1至7中任一项所述的数据迁移方法。权 利 要 求 书 2/2 页 3 CN 114860690 A 3

.PDF文档 专利 数据迁移方法、装置、设备及存储介质

文档预览
中文文档 18 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 数据迁移方法、装置、设备及存储介质 第 1 页 专利 数据迁移方法、装置、设备及存储介质 第 2 页 专利 数据迁移方法、装置、设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 07:16:51上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。