案例4 信用卡核心系統分布式信創項目

本案例描述了一種分布式系統信創建設方案，該方案基于完全知識產權的應用層、PaaS層和SaaS層，支持我行信用卡核心系統從大型機遷移到分布式單元化。方案圍繞核心系統的穩定性、高可用性、擴展性的多活建設和云原生演進，實現了單元化、容器化升級。此方案的技術紅利轉換為業務發展賦能，支持信用卡作為零售尖兵，實現快速業務轉型。隨著國產芯片和國產數據庫的深入應用，該方案不斷構建和升級核心系統的信創能力，對同行業具有借鑒參考意義。

關鍵詞：自主可控，國芯應用，高可用多活，單元化容器升級

一、背景介紹

金融行業信創就是金融行業信息技術應用創新，包括對基礎設施、基礎軟件、應用軟件等各種類型的信息產品的創新，對金融的信息安全和可持續發展至關重要。由于金融核心系統的復雜性高，且在整個金融應用中處于核心地位，所以對性能和穩定性的要求也更為苛刻。因此，在采用創新技術時，金融核心系統面臨諸多困難，如改造成本高、周期長，以及技術選型和實施若失誤則可能引發的風險大。

平安銀行自2018年起開始進行信用卡核心系統的分布式改造。原有的主機系統具有如下特點。

● 采用VisionPlus。

● 基于大型主機系統構建。

● 軟件閉源。

● 硬件及軟件的采購成本高。

● 極度依賴供應商支持。

● 缺乏技術自主可控能力。

● 采用集中式架構，缺乏靈活的水平伸縮能力。

上述特點在一定程度上制約了業務的發展。經過兩年的集中研發，平安銀行于2020年10月完成了基于分布式架構的新核心系統上線，并于2020年底在應用、中間件、數據庫和操作系統上實現了全棧信創。此后，新核心系統陸續開展了金融前置下沉核心、核心容器化、國產服務器100%等工程，核心系統生態逐步向100%全棧信創的目標推進。

該項目在從單體系統到分布式單元化遷移的基礎上實現了云原生容器化升級，完成了信用卡核心系統在信創基礎上的迭代演進，對于行業內核心系統的分布式單元化改造以及云原生建設具有示范意義。

二、建設內容

新核心系統從最傳統的大型主機系統遷移到分布式系統。新架構有多種選擇，在應用層、數據層、PaaS設施層和基礎層也都有保守但方便的選擇?；谝韵氯c考慮，項目選擇了全棧徹底分布式的建設方向。

● 新核心的改造面向未來中長期的發展需要，具備良好的性能和可擴展性。

● 我行已經具備了分布式PaaS平臺的生態。

● 在基礎設施層上避免產生新的依賴。

（一）分布式系統架構設計

依托于行內和集團的技術優勢和沉淀，我們協調了科技運營、技術架構等關鍵部門專家，從應用、數據、基礎設施，以及銀行現有的經驗等方面，快速論證了徹底分布式選型方案，并對項目的后續開展進行了嚴密部署。

信用卡新核心采用多活的DSU分片架構設計，使多個系統單元能夠正常負載和提供服務，滿足系統的高可用性、高擴展性和高性能要求。

1.單元化架構設計

在單元化架構設計方面，通過重點關注以下三個方面，最終得到新核心系統架構。

● 高可用：同城雙機房1:1互備，可實現出現故障時秒級同城切換；基于總行GSLB域名的靈活切換策略，單個DSU可獨立切換，隔離故障。

● 高擴展：基于DSU單元化的架構，約200萬用戶一個分片（含應用及DB），60個分片就是60個小的信用卡核心。僅需申請配置發布即可實現低成本擴容，無須再次進行開發。

● 高性能：支持1萬筆/s并發金融交易，相較于老核心速度提升了10倍，目標100%無損授權；支持30億交易賬戶，是老核心的10倍，同時支持小時級批量處理時效。

2.全面基于銀行分布式金融PaaS平臺建設

分布式金融PaaS平臺基于云計算，采用成熟的開源技術開發，具備億級處理能力，全面支持敏捷開發和彈性擴展，提升了業務連續性支撐能力和技術安全可靠性。平臺支持業務快速發展，實現了彈性伸縮和系統橫向擴展，提高了系統可用性，避免了故障對業務的影響。

分布式自研PaaS平臺，將微服務框架、網關、分布式緩存、消息隊列、分布式數據庫、調度中心、監控中心等基礎服務和中間件進行集成，構建支撐應用系統開發及運行的統一基礎平臺。

徹底去IOE（去掉IBM小型機、Oracle數據庫和EMC存儲設備），IaaS層全面采用X86架構服務器，徹底去除小型機及主機；用基于MySQL的國產數據庫增強型產品替代Oracle，達到金融級的高可用和信創要求。

3.平安銀行私有云支持部署運行

平安銀行私有云通過整合開源資源管理模塊、定制化云管平臺和行內現有管控流程，實現了行內應用從傳統Vmware+SAN平臺向KVM+本地化的遷移。該舉措降低了銀行對SAN等高端設備的需求，減弱了對商業軟件的依賴，提升了資源交付效率，降低了部署資源成本。

兩地三中心架構支持“同城雙活，異地災備”，并且具備可伸縮的計算資源管理功能，保障了設施層的高可用性和合理配置。

（二）應用架構設計

通過三個主要策略，實現批量與交易分離、業務松耦合，有效降低系統復雜性，提升系統的健壯性，更充分、更安全地支持業務敏捷。

● 賬務與交易應用分離、數據完全隔離。核心賬務和交易業務完全解耦，同時，聯機交易與賬務處理壓力完全隔離，秒殺活動不受批量時間影響。

● 交易微服務化，金融交易與非金融交易分離，金融交易按渠道流量隔離。不同業務服務間職責明確，互不干擾；單組件職責純粹，變更不影響其他組件。

● 互聯網查詢與交易分離，核心交易與互聯網復雜場景解耦。通過數據緩存應對海量查詢交易，解決互聯網客戶復雜交易對系統核心交易帶來的沖擊。

三、創新應用

由于信用卡業務具有高頻并發的特點，所以在核心系統實施容器化云原生升級時，系統的穩定性和高可用性不容有失。在業務應用單元化容器化升級的同時，還需要對基礎組件功能進行整體升級改造，具體措施如下。

（1）分階段實施上容，制定質量準出指標，確?？傮w風險可控。

階段一：DSU（數據庫存儲單元）內部單節點上容（觀瀾機房），準出涉及業務指標和運維指標。

● 業務指標包括典型案例驗證通過率、容器應用授權處理情況、響應時間是否有異常、單節點交易平均響應時間、單節點交易平均（95線）響應時間等。

● 運維指標包括CAT監控平臺支持容器的日志收集、監控及告警，Promethues支持容器資源使用觀測，容器應用JVM（Java虛擬機）資源回收穩定等。

階段二：DSU內部全部節點上容（觀瀾機房），準出涉及業務指標和運維指標。

● 業務指標包括信用卡關鍵批量日運行及結果是否正常、容器應用主渠道及主要業務場景覆蓋率、容器應用授權處理及響應時間是否異常、單元維度平均交易響應時間等。

● 運維指標包括版本發布成功率、發布時長、重要組件可用率、平均耗時等。

階段三：單機房全部DSU上容（福田機房），準出涉及業務指標和運維指標。

● 業務指標包括容器應用主渠道及主要業務場景覆蓋率、下游大數據及應用無異常反饋、交易失敗率（同城比較）等。

● 運維指標包括容器部署國產化率、福田機房容器版本發布成功率、發布時長、重要組件可用率、平均耗時等。

階段四：雙機房全部DSU上容（同城）。

（2）上線過程流量逐級切換。

● 上線過程采用由下至上的順序。依次發布業務應用的灰度集群（HALO流量），驗證白名單后發布正式集群，最后發布網關應用的正式集群和灰度集群，通過探測工具進行探測。SLB配置Ingress節點（正常節點），基于內測白名單功能驗證集群的正確性。

● 從SLB內測白名單到SLB全鏈路灰度設置。SLB全鏈路灰度基于應用維度進行設置。全鏈路灰度功能依賴于全部DSU容器化，因此上線過程采用內測白名單功能，待全機房全面容器化后，開放全鏈路灰度功能。

● 流量百分比驗證。在機房流量控制百分比的基礎上，對容器化的單元進行流量觀察，確保上線過程風險可控。

（3）PaaS層能力升級，保障了核心系統的穩定性、擴展性和可用性。

基礎組件升級涵蓋了DSU的容器應用集成、部署、灰度、下線等全生命周期管理，同時也豐富和增強了DSU架構下的流量管理、全鏈路灰度、一鍵部署、差異化參數等高階特性。

● 發布平臺/發布能力：并行發布、一鍵發布、快速擴容。

● APOLLO/標簽灰度：提供了容器節點差異化參數及靈活參數配置能力。

● CAT/監控分組：按部署集群分組展示和監控。

● NOVA/單元參數模板：單元參數統一模板、集群參數一鍵生效、單元部署親和規則。

● CANNA/灰度達標：統一灰度標簽、靈活的灰度規則、健康與告警管理。

● HALO/應用注冊：容器集群統一Solar Agent注冊、應用全生命周期管理。

● DLS與SLB/流量分發：單元流量路由、全鏈路灰度、故障轉移。

● F16/應用注冊：全面的指標監控、差異化的告警設置、容器與物理機監控。

四、取得成效

新核心投產成功，解決了之前大型核心系統的諸多痛點。基于自主可控目標，信用卡新核心系統從應用層到PaaS層、SaaS層等的核心技術，均采用我行自主可控的方式建設。在此基礎上，通過云原生容器化升級，提升了系統的彈性擴展能力，并保障了核心運行的穩定性。目前，國產芯片承載流量占比已達80%。

綜合對比新老核心系統的硬件成本，信用卡A+新核心主要使用的是單臺數萬元計價的X86服務器，相較動輒上億元起步的大型機硬件，成本大幅降低，綜合成本僅為原主機方案的四分之一。

同時，平安信用卡擁有了100%自主知識產權的核心系統，探索全棧100%信創如何穩定高效地在核心系統落地，保障系統可持續發展的技術路徑。這對同行業具有借鑒參考意義。

完成人：

王　松　平安銀行股份有限公司信用卡核心領域負責人

吳學亮　平安銀行股份有限公司軟件質量團隊領域負責人

沈　偉　平安銀行股份有限公司信用卡核心領域助理負責人

王建文　平安銀行股份有限公司信用卡核心領域分組經理

毛　杰　平安銀行股份有限公司信用卡核心領域分組經理

程　俊　平安銀行股份有限公司信用卡核心領域分組經理