背景
內蒙古自治區農村信用社聯合社(簡稱“內蒙農信”)經過多年的信息化建設,目前投產使用的信息化系統近100套,產生了大量的數據。該社于2019年采用MPP架構的分布式數據庫,實現了40多套業務系統數據的歸集、標準化處理。近年來大數據技術與金融業務深度融合,釋放出金融創新活力和應用潛能。2021年該社啟動了大數據平臺項目,與星環科技合作,經過一年多的努力,在金融云上部署了20個節點的大數據處理集群。
在星環科技大數據基礎平臺TDH的賦能下,內蒙農信提升了多元異構數據整合能力,彌補了實時數據處理、外部數據處理能力的不足,加大了數據輔助決策的力度,同時,通過客戶畫像,增強了客戶識別、營銷、分析的能力,為業務發展提供了數據支撐。本次項目建設也在業內創新地開發了線上一體化數據全流程處理產品,讓數據處理不再是一個黑匣子,提高了數據使用的效率,為該社未來數字化轉型、金融數據變現奠定了堅實的技術底座。
案例概述
內蒙農信在大數據平臺的建設過程中,融入了互聯網的先進技術,同時也借鑒了同業的最佳實踐?;诖髷祿幚砑夹g,內蒙農信聯合星環科技構建了基于金融云部署的大數據平臺,依托大數據平臺,建設了統一數據門戶,實現了信用社內外結構化、半結構化和非結構化數據的實時采集、實時計算、歸檔和標準化處理,滿足了下游系統數據需要以及實時查詢和計算的需求。
建立內蒙農信統一數據門戶,包含外部數據管理、數據服務、客戶標簽管理、數據訂閱與查詢、實時計算、數據模型管理、指標管理及統一登錄與統一權限管理功能共七個子系統,實現數據的發布、訂閱和查找、數據模型、指標庫和數據標簽的管理、展示與維護,明細數據的查詢與導出,便于數據管理和維護。
解決難點
多元異構數據的整合處理,業務辦理人員獲取數據的及時性、有效性等一直是業內關注的焦點。內蒙農信通過建設大數據平臺,解決了行內外結構化、半結構化和非結構化數據的整合,同時實現了數據的實時采集和計算,為實際業務提供了強有力的數據支撐,提高業務的及時性和有效性。通過大數據平臺建設,夯實了內蒙農信數據核心平臺的技術底座,可以支持未來風險防控、精準營銷、實時數據大屏等應用場景,同時將核心業務系統、農信銀等業務系統的數據查詢壓力遷移至大數據平臺,為業務系統減負。
通過大數據平臺建設,內蒙農信完善了數據體系架構,加速數據資源的開發利用。項目構建了統一的數據門戶,實現了數據的一體化線上管理,包括數據發布、訂閱和查找,數據模型、指標庫和數據標簽的管理、展示與維護、歷史明細數據的查詢與導出等。
如何依托大數據平臺,持續向外提供數據服務?數據服務功能實現對數據服務的統一定義與管理,實現數據服務的統一輸出,并實現應用系統使用數據服務接口的權限的統一管理。項目完成的數據服務API接口可以實現三個方面的數據服務:內蒙農信目前運行的歷史數據查詢平臺的數據服務接口功能;對已接入外部數據的實時查詢服務;客戶標簽實時查詢服務。
創新亮點
* 數據全流程線上化
從數據采集、數據建模、數據開發到數據服務全部實現線上化。通過批量采集、日志采集、實時采集等方式將數據采集到TDH大數據基礎平臺,根據數據模型管理功能模塊制定的標準模型進行數據建模,線上開發實現數據的加工處理,接口數據服務和文件數據服務為法人機構和下游系統提供數據支撐,數據訂閱和查詢提升了數據的使用效率。
* 實時服務的數字化響應能力
傳統的批量數據處理流程已無法滿足業務發展需要,大數據平臺引進互聯網實時數據處理的先進技術,構建了一套從數據采集、計算到提供服務的完整實時數據處理鏈路。通過實時計算平臺,監控客戶實時大額動賬交易,能夠讓網點客戶經理及時察覺客戶大額資金動向,有效挽留潛在客戶流失,同時,也可以提醒客戶避免遭受網絡、電信詐騙等帶來的資金損失。
* 多樣化的數據服務能力支撐
大數據平臺提供多種數據服務支撐業務系統及法人機構的數據需求,包括以數據訂閱的方式支撐批量文件下發,以API的方式支撐實時數據的查詢,API支持數據API、文件API、注冊API以及聚合API等多種方式,滿足不同業務場景的使用需求。
* 基于微服務的數據產品
大數據平臺數據全流程實現線上化,采用多個數據產品,包括數據服務管理、數據模型管理、客戶標簽管理、數據訂閱與查詢、指標管理、外部數據管理、實時計算平臺等,所有的數據產品都是基于微服務進行設計和研發,實現容器化部署,完全基于國產化服務器和操作系統部署。
應用落地
通過大數據平臺的建設,從數據的采集到給應用系統提供數據服務,整個數據處理鏈路實現了數據全流程可視化管理,整個數據生命周期對于科技人員都是可見、可管理、可操作的。同時,通過血緣分析功能,每一項數據的加工過程都可以追溯。
按照業務發展需要,大數據平臺結合MPP架構數據庫和基于Hadoop框架的分布式大數據處理組件,整合了批量數據、實時數據、結構化和半/非結構化數據,通過外部數據管理平臺接入了業務所需的外部數據,完善了數據來源。建設統一數據門戶,實現了業務數據的全量要素集中與實時反饋。夯實了數據基礎底座,豐富了數據處理能力,提升了數據服務業務的效率。
基于大數據處理技術,構建了實時計算平臺,實現了實時數據采集、實時計算與實時反饋;數據訂閱與查詢,充分從數據使用者角度考慮,實現數據的自助化訂閱與查詢;數據接口服務,滿足不同數據接口使用場景,使數據的使用更加靈活高效;外部數據管理,統一的外部數據管理,為業務系統提供豐富的數據來源;數據模型管理,標準化的模型建設,為數據資產管理奠定了基礎;指標管理,對每個指標做到精細化管理,包括指標的歸屬者和血緣分析;客戶標簽管理,通過客戶標簽管理,為精準營銷提供有力的數據支撐。
免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。