技术领域
[0001] 本发明属于异构数据库数据同步技术领域,特别是涉及异构数据库间数据同步方法。
相关背景技术
[0002] 异构数据库间的数据同步常采用以下方式:
[0003] 发布服务器:发布服务器是提供数据以便同步到其他服务器的服务器。分发服务器:分发服务器是具体执行数据分发任务的服务器。订阅服务器:订阅服务器是接收同步数据的服务器。该方式进行异构数据库间的数据同步时每次都要对两异构数据库间手动参数配置。这导致异构数据库间的数据配置重复操作相同的参数设置,操作繁琐,而且每次均需要手动设置容易出错且效率不高。
[0004] 本发明致力于发明一种异构数据库间数据同步方法,实现异构数据库间数据同步时参数的自动配置。
具体实施方式
[0033] 下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
[0034] 请参阅图1所示,本发明为异构数据库间数据同步方法,包括如下步骤:
[0035] S000:对数据操作类型设置;
[0036] S001:对数据作业流设置;
[0037] S002:对数据作业流任务设置;
[0038] S003:数据库间的数据自动配置;
[0039] S004:数据库间数据同步。
[0040] 其中,S003中的数据库间的数据自动配置具体过程如下:
[0041] 获取数据操作类型设置数据、获取数据作业流设置数据、获取数据作业流任务设置数据;
[0042] 根据数据操作类型设置数据、获取数据作业流设置数据、获取数据作业流任务设置数据配置对应数据库参数。
[0043] 其中,数据作业单元支持的操作类型包括从ORACLE数据表到GP数据表的数据操作。
[0044] 其中,操作类型对应的参数包括数据库相关参数和HADOOP相关参数;数据库参数包括数据库名称、数据库用户名、数据库表名、SQL语句。
[0045] 其中,数据作业单元支持的操作类型还包括从ORACLE数据表到ORACLE数据表的数据操作。
[0046] 其中,数据库间的数据同步通过元数据文件和数据文件的形式同步。
[0047] 其中,元数据文件的格式为:表名+0x07+字段列表+0x07+字段类型列表+0x07+主键字段名+0x07+主键字段类型;
[0048] 其中,字段列表=字段1+0x1B+字段2+0x1B+...+字段n,n为正整数。
[0049] 其中,字段类型列表=字段1+0x1B+字段2+0x1B+...+字段n,n为正整数。
[0050] 其中,主键字段名=字段1+0x1B+字段2+0x1B+...+字段n,n为正整数。
[0051] 其中,主键字段类型列表=字段1+0x1B+字段2+0x1B+...+字段n,n为正整数。
[0052] 其中,数据文件的形式为:行分隔符为0x08,每行数据格式:删除=D+0x07+日志序号+0x07+主键值。
[0053] 其中,新增=I+0x07+日志序号+0x07+主键值+0x07+字段1值+0x1B+字段2值+0x1B+...+字段n值。
[0054] 其中,修改=U+0x07+日志序号+0x07+主键值+0x07+字段1值+0x1B+字段2值+0x1B+...+字段n值。
[0055] 其中,字段空值时保存为:\N。
[0056] 其中,HADOOP相关参数的格式为:
[0057] shell脚本内容;
[0059] 文件路径;
[0060] 文件名称;
[0061] 文件是否分割状态。
[0062] 值得注意的是,上述系统实施例中,所包括的各个单元只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。
[0063] 另外,本领域普通技术人员可以理解实现上述各实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成。
[0064] 以上公开的本发明优选实施例只是用于帮助阐述本发明。优选实施例并没有详尽叙述所有的细节,也不限制该发明仅为所述的具体实施方式。显然,根据本说明书的内容,可作很多的修改和变化。本说明书选取并具体描述这些实施例,是为了更好地解释本发明的原理和实际应用,从而使所属技术领域技术人员能很好地理解和利用本发明。本发明仅受权利要求书及其全部范围和等效物的限制。