java 實(shí)現(xiàn)增量同步和自定義同步的操作
公司有多個(gè)系統(tǒng)。 需要從某個(gè)系統(tǒng)拿數(shù)據(jù)。初始化拿一次,然后每天增量同步。
因?yàn)檫壿嬯P(guān)系有些復(fù)雜,且涉及到多表,所以純sql不太方便。
項(xiàng)目之前的mybatis寫死了, sysdate-1的數(shù)據(jù)。
如何全量同步老辦法可以讓某系統(tǒng)調(diào)整modifyDate,本系統(tǒng)通過定時(shí)任務(wù)同步這些數(shù)據(jù)。
缺點(diǎn): 按規(guī)定不允許改數(shù)據(jù),別人也不樂意改。
較好的辦法調(diào)整mybatis,傳入?yún)?shù)變?yōu)樽远x方法,這樣就可以同步任意時(shí)刻的數(shù)據(jù)。
一般有2種方法:
傳入游標(biāo)方法: sysdate-n
直接傳入日期字符串: modifyDate between ‘888’ and ‘999’
然后增加request請(qǐng)求,手動(dòng)調(diào)用同步方法。
補(bǔ)充:java數(shù)據(jù)同步,增量更新表中記錄數(shù)據(jù)
背景:我方系統(tǒng)中的數(shù)據(jù)從第三方系統(tǒng)同步過來。雙方通過json格式交互,數(shù)據(jù)格式如下:
{'resInfo':{'code':'0','msg':'查詢成功'},'columns':'requestId,jobNumber,requestDate,department,businessDays,cfd,mdd,startTime,endTime,reason,remark','data':[{'requestId'='11925', 'jobNumber'='5721', 'requestDate'='2019-05-06', 'department'='57', 'businessDays'='21', 'cfd'='上海', 'mdd'='南京', 'startTime'='2019-05-06 13:36', 'endTime'='2019-05-07 13:36', 'reason'='', 'remark'=''}]}增量更新處理思路:
1、調(diào)用第三方接口,獲取數(shù)據(jù),做解析,得到一個(gè)List1。
2、查詢數(shù)據(jù)庫出差表,得到另一個(gè)List2。
3、兩個(gè)list做比較,獲取不同的元素列表。
list2-list1:要?jiǎng)h除的記錄。
list1-list2 :要新增的記錄。
主要實(shí)現(xiàn)代碼:String result='調(diào)用接口返回的json串'; //參見交互的json數(shù)據(jù)格式
ResultObject<BusinessTrip> resultObject = JSON.parseObject(result, new TypeReference<ResultObject<BusinessTrip>>() { }); List<BusinessTrip> list = resultObject.getData(); if (!CollectionUtils.isEmpty(list)) {//查詢數(shù)據(jù)庫記錄條數(shù)List<BusinessTrip> list2 = businessService.queryBusinessTripList(); Map<String, List<BusinessTrip>> map = ListUtils.getMap(list, list2);//刪除出差List<BusinessTrip> newRemoveList = map.get(ListUtils.LIST2_REMOVE_LIST1);if (!CollectionUtils.isEmpty(newRemoveList)) { List<String> newChangeList2 = newRemoveList.stream().map(item -> item.getRequestId()).collect(Collectors.toList()); int removeCount = businessService.batchDeleteBusinessTrip(newChangeList2); log.error('刪除出差記錄個(gè)數(shù),removeCount=' + removeCount);}//新增出差List<BusinessTrip> newAddList = map.get(ListUtils.LIST1_REMOVE_LIST2);if (!CollectionUtils.isEmpty(newAddList)) { int addCount = businessService.batchInsertBusinessTrip(newAddList); log.error('新增出差記錄個(gè)數(shù),addCount=' + addCount);} } else {log.error('同步出差申請(qǐng)結(jié)束,沒有查詢到出差數(shù)據(jù)。'); }
出差實(shí)體類BusinessTrip.java
import lombok.Data;/** * 出差 */@Datapublic class BusinessTrip { /** * 請(qǐng)求ID */ private String requestId; /** * 工號(hào) */ private String jobNumber; /** * 申請(qǐng)日期 */ private String requestDate; /** * 申請(qǐng)人所在部門id */ private String department; /** * 出差天數(shù) */ private String businessDays; /** * 出發(fā)地 */ private String cfd; /** * 目的地 */ private String mdd; /** * 出差開始時(shí)間 */ private String startTime; /** * 出差結(jié)束時(shí)間 */ private String endTime; /** * 出差事由 */ private String reason; /** * 備注 */ private String remark;}
ResultObject.java
/** * @Name: ResultObject * @Desc: 基類泛型 * @Author: Administrator * @Date: 2019-08-28 18:32 * {'resInfo':{'code':'0','msg':'查詢成功'},'columns':'requestId,jobNumber,requestDate,department,businessDays,cfd,mdd,startTime,endTime,reason,remark','data':[{'requestId'='11925', 'jobNumber'='5721', 'requestDate'='2019-05-06', 'department'='57', 'businessDays'='21', 'cfd'='上海', 'mdd'='南京', 'startTime'='2019-05-06 13:36', 'endTime'='2019-05-07 13:36', 'reason'='', 'remark'=''}]} */@Datapublic class ResultObject<T> { private String columns; private ResInfo resInfo; private List<T> data;}
ResInfo.java
import lombok.Data;/** * @Name: ResInfo * @Desc * @Author: Administrator * @Date: 2019-08-28 18:38 * {'code':'0','msg':'查詢成功'} */@Datapublic class ResInfo { private String code; private String msg;}
ListUtils.java工具類:
import java.util.ArrayList;import java.util.HashMap;import java.util.List;import java.util.Map;import java.util.stream.Collectors;/** * @Name: ListUtils * @Desc * @Author: Administrator * @Date: 2019-08-29 14:03 */public class ListUtils { /** * 交集 */ public static final String LIST1_AND_LIST2 = '0'; /** * 差集(list1 - list2) */ public static final String LIST1_REMOVE_LIST2 = '1'; /** * 差集(list2 - list1) */ public static final String LIST2_REMOVE_LIST1 = '2'; public static <T> Map<String, List<T>> getMap(List<T> list1, List<T> list2) { //交集 List<T> intersection = list1.stream().filter(item -> list2.contains(item)).collect(Collectors.toList()); //差集(list1 - list2) List<T> reduce1 = list1.stream().filter(item -> !list2.contains(item)).collect(Collectors.toList()); //差集(list2 - list1) List<T> reduce2 = list2.stream().filter(item -> !list1.contains(item)).collect(Collectors.toList()); Map<String, List<T>> map = new HashMap<>(); map.put(LIST1_AND_LIST2, intersection); map.put(LIST1_REMOVE_LIST2, reduce1); map.put(LIST2_REMOVE_LIST1, reduce2); return map; }// public static void main(String[] args) {// List<String> list1 = new ArrayList<>();// list1.add('1111');// list1.add('2222');// list1.add('3333');// list1.add('4444');//// List<String> list2 = new ArrayList<>();// list2.add('3333');// list2.add('4444');// list2.add('5555');// list2.add('6666');//// Map<String, List<String>> map = getMap(list1, list2);// System.out.println(map);// }}實(shí)際處理過程中出現(xiàn)的一個(gè)問題是:
接口返回的字段中,不是每個(gè)字段都有值。在第一次插入數(shù)據(jù)后,再查詢時(shí),字段得到的值是null,不是空串。
操作中出現(xiàn)一個(gè)問題:
接口中拿到的數(shù)據(jù)是這樣:
BusinessTrip(requestId=11925, jobNumber=5721, requestDate=2019-05-06, department=57, businessDays=21, cfd=上海, mdd=南京, startTime=2019-05-06 13:36, endTime=2019-05-07 13:36, reason=, remark=)
就是通過mybatis查詢出的數(shù)據(jù),得到記錄格式是這樣。
BusinessTrip(requestId=11925, jobNumber=5721, requestDate=2019-05-06, department=57, businessDays=21, cfd=上海, mdd=南京, startTime=2019-05-06 13:36, endTime=2019-05-07 13:36, reason=null, remark=null)
兩個(gè)格式差別是,部分字段,比如reason字段,一個(gè)是空串,一個(gè)是null,導(dǎo)致List中元素在做比較的時(shí)候,總是不相等。
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持好吧啦網(wǎng)。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教。
相關(guān)文章:
1. 利用CSS3新特性創(chuàng)建透明邊框三角2. AJAX實(shí)現(xiàn)數(shù)據(jù)的增刪改查操作詳解【java后臺(tái)】3. PHP 使用 Trait 解決 PHP 單繼承問題詳解4. Python collections模塊的使用方法5. ajax post下載flask文件流以及中文文件名問題6. python dict如何定義7. 使用css實(shí)現(xiàn)全兼容tooltip提示框8. WML語言的基本情況9. JSP+Servlet實(shí)現(xiàn)文件上傳到服務(wù)器功能10. 如何通過vscode運(yùn)行調(diào)試javascript代碼
