如何更深刻的理解資料治理?
這是一篇關於資料治理的綜述,希望透過這篇文章讓大家對資料治理有全新的認識,後面列出了所有的參考文獻,方便拓展學習。
1、資料治理歷史
探究“資料治理”的歷史可以發展分為三個階段。
第一階段早期探索,早在1988年由麻省理工學院的兩位教授啟動了全面資料質量管理計劃(TDQM),可以認為是資料治理最初的雛形,同年,DAMA(國際資料管理組織協會)成立。時間一直走到2002年,資料治理概念首次出現在學術界,美國兩位學者發表題為《資料倉庫治理》的研究探討了Blue Cross和Blue Shield of North Carolina兩家公司的最佳實踐,由此拉開了“資料治理”在企業管理中的大幕。
第二階段理論研究,在美國學者發表《資料倉庫治理》的第二年,2003年DGI(國際資料治理研究所)成立,研究資料治理理論框架,與ISO國際標準化組織對資料管理與資料治理進行定義。直到2009年,DAMA國際釋出DMBOK《資料管理知識體系指南》[15](以下簡稱《DAMA指南》),至此資料治理的理論框架基本固定。2020年DAMA國際釋出DMBOK《資料管理知識體系指南原書第二版》[16](以下簡稱《DAMA指南第二版》)。
第三階段廣泛接受與應用,伴隨著資料倉庫的建設,主資料管理與BI的實施,國內也逐步開始接受並利用資料治理的概念進行推廣實踐。我國資料治理之路在DMBOK基礎上不斷延伸和擴充套件,里程碑事件為在2015年提出了《資料治理白皮書》[14]國際標準研究報告。
2018年6月7日,國家市場監督管理總局和國家標準化管理委員會釋出《中華人民共和國國家標準公告(2018年第9號)》,批准《資訊科技服務治理第5部分:資料治理規範》[18](以下簡稱《資料治理規範》)國家標準釋出實施,標準號為GB/T 34960.5–2018,實施日期為2019年1月1日。《資料治理規範》是我國資訊科技服務標準(ITSS)體系中的“服務管控”領域標準,屬於《資訊科技服務治理》的第5部分。
金融等行業也在實踐的過程中形成了自己的治理體系,比如銀行在2018年釋出了《銀行業金融機構資料治理指引》[19](以下簡稱《銀行資料治理指引》),標誌著資料治理在我國銀行金融機構中全面實踐時代的到來,華為2020年出了本書《華為資料之道》,可以看到資料治理在企業中也開始發揮出越來越重要的作用。
2、資料治理定義
百度百科:
資料治理(Data Governance)是組織中涉及資料使用的一整套管理行為。由企業資料治理部門發起並推行,關於如何制定和實施針對整個企業內部資料的商業應用和技術管理的一系列政策和流程。
國際資料治理研究所(DGI):
資料治理是一個透過一系列資訊相關的過程來實現決策權和職責分工的系統,這些過程按照達成共識的模型來執行,該模型描述了誰(Who)能根據什麼資訊,在什麼時間(When)和情況(Where)下,用什麼方法(How),採取什麼行動(What)。
DAMA指南:
資料治理是對資料資產管理行使權力和控制的活動集合(規劃、監控和執行)。資料治理職能指導其他資料管理職能如何執行。資料治理是在高層次上執行資料管理制度。資料治理是透過連續性的計劃和持續改進的過程來完成的。除了持續性的改進,資料治理的另外一個標誌就是共同決策。有效的資料管理工作需要跨組織邊界和系統邊界。
銀行資料治理指引:
資料治理是指透過建立組織架構,明確董事會、高階管理層、部門等職責要求,制定和實施系統化的制度、流程和方法,確保資料統一管理、高效執行,並在經營管理中充分發揮價值的動態過程。
3、資料治理和資料管理辨析
大家有時表示難以理解資料治理是什麼,治理本身是一個通用概念,與其發明新的概念,還不如將其他治理的概念和原則應用於資料治理,比如公司管理和公司治理。
(1)公司管理和公司治理
公司治理與公司管理的區別起源於公司治理理論中的法律模型。這一模型認為,股東由於向公司提供資本,而成為所有者,擁有法定的權力,其中最基本的權力就是選舉董事會作為其受託人來進行公司的重大決策,再由董事會來選擇和監督經理,進行日常的經營管理。這樣公司治理與公司管理的區別在公司法關於董事會與經理之間的權責關係的界定上得到反映,即董事會從事治理,經理層從事管理。
從目的上來看,公司治理的目的是為了降低代理成本,降低因代理人違背委託人意志而給委託人帶來的損失和成本,而管理的目的是正確選擇經營目標和高效率地實現經營目標,提高企業資源的利用效率;公司治理的主體是股東以及各利益相關者,而公司管理的主體是公司的經理層;公司治理涉及公司戰略方針的制定、控制和監督,以及公司與外部的社會、經濟和文化的聯絡;管理則是運用一定的方式來知道或監督某一活動,以達到特定的目的;公司治理的焦點在外部,公司管理的焦點在內部,公司治理假定一個開放的系統,而公司管理相對假定一個封閉的系統;公司治理基於戰略考慮,公司管理基於任務考慮;公司治理考慮公司往哪個地方去,公司管理考慮怎樣使公司到達那裡。
從程式和手段來看,公司治理強調的是董事會藉以監督和激勵經理的程式、方式和手段,重點強調利益關係的調整,公司管理關注的是為了達到公司的目標,經理應該做什麼、怎麼做,重點強調為達到特定目標應選擇的手段、方法和管理技術,也就是說,公司治理是董事會的工作,而公司管理則是經理的事情。
總結一下就是,公司治理是指最高管理層(董事會)利用它來監督管理層在實現戰略目標的過程中,處於治理層既定的規則內(風險可控、績效可見)。公司管理就是在既定的治理模式下,管理層為實現組織戰略目標而採取的行動。 管理是在治理既定的“約束和激勵”的規則下,對組織資源進行整合與配置,確定目標以及實現此目標所採取的行動。


(2)資料管理和資料治理的區別
資料管理是指透過規劃、控制與提供資料和資訊資產職能,包括開發、執行和監督有關資料的計劃、政策、方案、專案、流程、方法和程式,以獲取、控制、保護、交付和提高資料和資訊資產價值。
資料治理是對資料資產管理行使權力和控制的活動集合(規劃、監控和執行),指導其他資料管理職能如何執行,在高層次上執行資料管理制度。組織為實現資料資產價值最大化所開展的一系列持續工作過程,明確資料相關方的責權、協調資料相關方達成資料利益一致、促進資料相關方採取聯合資料行動,下圖示例了一個區別。


資料治理與資料管理的關係如下圖所示:


資料治理的全過程:從範圍來講,資料治理涵蓋了從前端事務處理系統、後段業務資料庫到終端的資料分析,從源頭到終端再回到源頭形成一個閉環負反饋系統(控制理論中趨穩的系統),從目的來講,資料治理就是對資料的獲取、處理、使用進行監督(監管就是我們在執行層面對資訊系統的負反饋),而監管的職能主要透過五個方面的執行力來保證 — — 發現、監督、控制、溝通、整合。
再舉例子:
可以將審計、會計與資料治理放在一起比較,審計員和財務主管設定管理財務資產的規則,資料治理專家制定管理資料資產的規則,然後其它領域執行這些規則。財務審計人員實際上並不執行財務管理,資料治理確保資料被恰當的管理而不是直接管理資料,資料治理相當於將監督和執行的職責分離。
如果你在一個基層單位做具體的資料安全工作,但總是被上級組織檢查,你就是在做資料安全管理工作,而制定檢查規範、總是來檢查你的上級組織就是在做安全治理的工作,你可能覺得這些人真是吃飽了沒事做,但站在全域性的視角看,他們做的工作可能比你還更重要,因為他們要確保你在做正確的事。
如果將資料治理類比於國家治理,資料治理相當於承擔立法職能(策略和標準)和司法職能(問題管理),資料管理則承擔行政職能(管理、服務和合規)。
搞懂了資料治理和資料管理的區別,就能理解將資料治理的職責甩給IT部門是多麼荒謬的事情,因此DAMA一直強調,資料治理應該是業務部門與IT部門共同的職責。
4、資料治理的內容
《DAMA指南第二版》給出了資料治理的主要內容,包括規劃組織的資料治理、制定資料治理戰略、實施資料治理和嵌入資料治理,如下圖所示:


資料治理針對的主要物件如下圖所示:


以之可類比的是《資料治理規範》給出的資料治理框架,包括四大塊:頂層設計、資料治理環境、資料治理域及資料治理過程,下面主要介紹這個框架。


(1)頂層設計
戰略規劃:資料戰略規劃應保持與業務規劃、資訊科技規劃一致,並明確戰略規劃實施的策略,至少應:
a)理解業務和資訊規劃,調研需求並評估現狀
b)制定資料戰略規劃,包括願景、目標、任務、內容、邊界、環境和藍圖等
c)指導資料治理方案的建立,包括但不限於實施主體、責權利、技術方案、實施策略和路線等
d)明確風險偏好、符合性、績效和審計等要求、監控和評估資料治理的實施並持續改進
以下是《華為資料之道》一書給出的華為資料工作的願景和目標:
華為資料工作的願景:實現業務感知、互聯、只能和ROADS體驗,支撐華為數字化轉型。
華為資料工作的目標:清潔、透明、智慧資料,使能卓越運營和有效增長。


組織構建:組織構建應聚焦責任主體及責權利,透過完善組織機制,獲得利益相關方的理解和支援,制定資料管理的流程和制度,以支撐資料治理的實施:
a)建立支撐資料戰略的組織機構和組織機制,明確相關的實施原則和策略
b)明確決策合適實施機構,設立崗位並明確角色,確保責權利的一致
c)建立相關的授權、決策和溝通機制,保證利益相關方理解、接受相應的職責和權利
d)實施決策、執行、控制和監督等職能,評估執行績效並持續改進和最佳化
以下是《DAMA指南》[15]給出的一個組織範例:


架構設計:架構設計應關注技術架構、應用架構和架構管理體系等,透過持續的評估、改進和最佳化,以支撐資料的應用和服務:
a)建立與戰略一致的資料架構,明確技術方向、管理策略和支撐體系,以滿足資料管理、資料流通、資料服務和資料洞察的應用需求
b)評估資料架構設計的合理性和先進性,監督資料架構的管理和應用
c)評估資料架構的管理價值和有效性,並持續改進和最佳化
(2)資料治理環境
內外部環境:組織應分析業務、市場和利益相關方的需求,適應內外部環境變化,支撐資料治理的實施
a)遵循法律法規、行業監管和內部管控,滿足資料風險控制、資料安全和隱私的要求;
b)遵從組織的業務戰略和資料戰略,滿足利益相關方需求;
c)識別並評估市場發展、競爭地位和技術變革等變化;
d)規劃並滿足資料治理對各類資源的需求,包括人員、經費和基礎設施等。
促成因素:組織應識別資料治理的促成因素,保障資料治理的實施。
a)獲得資料治理決策機構的授權和支援;
b)明確人員的業務技能及職業發展路徑,開展培訓和能力提升;
c)關注技術發展趨勢和技術體系建設,開展技術研發和創新;
d)制定資料治理實施流程和制度,並持續改進和最佳化;
e)營造資料驅動的創新文化,構建資料管理體系和資料價值體系;
f)評估資料資源的管理水平和資料資產的運營能力,不斷提升資料應用能力。
(3)資料治理域
資料管理體系:組織應圍繞資料標準、資料質量、資料安全、元資料管理和資料生存週期,開展資料管理體系的治理,至少應:
a)評估資料管理的現狀和能力,分析和評估資料管理的成熟度;
b)指導資料管理體系治理方案的實施,滿足資料戰略和管理要求;
c)監督資料管理的績效和符合性,並持續改進和最佳化。
資料價值體系:組織應圍繞資料流通、資料服務和資料洞察等,開展資料資產運營和應用的治理,至少應:
a)評估資料資產的運營和應用能力,支撐資料價值轉化和實現;
b)指導資料價值體系治理方案的實施,滿足資料資產的運營和應用要求;
c)監督資料價值實現的績效和符合性,並持續改進和最佳化。
可以看到,《資料治理規範》共包括資料標準、資料質量、資料安全、元資料管理、資料生存週期、資料流通、資料服務和資料洞察等八項資料治理內容,而在《DAMA指南》中則包括十項,分別為資料架構管理、資料開發、資料操作管理、資料安全管理、參考資料和主資料管理、資料倉庫和商務智慧管理、文件和內容管理、元資料管理和資料質量管理等,如下圖所示。


《資料治理規範》相對於《DAMA指南》突出了資料價值體系的治理內容。
(4)資料治理過程
統籌和規劃:明確資料治理目標和任務,營造必要的治理環境,做好資料治理實施的準備,包括:
a)評估資料治理的資源、環境和人員能力等現狀,分析與法律法規、行業監管、業務發展以及利益相關方需求等方面的差距,為資料治理方案的制定提供依據;
b)指導資料治理方案的制定,包括組織機構和責權利的規劃、治理範圍和任務的明確以及實施策略和流程的設計;
c)監督資料治理的統籌和規劃過程,保證現狀評估的客觀、組織機構設計的合理以及資料治理方案的可行。
構建和執行:構建資料治理實施的機制和路徑,確保資料治理實施的有序執行,包括:
a)評估資料治理方案與現有資源、環境和能力的匹配程度,為資料治理的實施提供指導;
b)制定資料治理實施的方案、包括組織結構和團隊的構建,責權利的劃分、實施路線圖的制定、實施方案的選擇以及管理制定的建立和執行等;
c)監督資料治理的構建和執行過程,保證資料治理實施過程與方案的符合、治理資源的可用和治理活動的可持續。
監控和評價:監督資料治理的過程,評價資料治理的績效、風險與合規,保障資料治理目標的實現,包括:
a)構建必要的績效評估體系、內容體系或審計體系,制定評價機制、流程和制度;
b)評價資料治理成效與目標的符合性,必要時刻聘請外部機構進行評估,為資料治理方案的改進和最佳化提供參考;
c)定期評價資料治理實施的有效性、合規性,確保資料及其應用符合法律法規和行業監管要求。
改進和最佳化:改進資料治理方案,最佳化資料治理實施策略、方法和流程,促進資料治理體系的完善,包括:
a)持續評估資料治理相關的資源、環境、能力、實施和績效等,支撐資料治理體系的建設;
b)指導資料治理方案的改進,最佳化資料治理的實施策略、方法、流程和制度,促進資料管理體系和資料價值體系的完善;
c)監督資料治理的改進和最佳化過程,為資料資源的管理和資料價值的實現提供保障。
5、銀行資料治理實踐
2018年5月21日中國銀保監會正式釋出的《銀行業金融機構資料治理指引》全文共7章55條,強調了資料治理架構的建立,明確了資料管理和資料質量控制的要求,還明確了全面實現資料價值的要求,要求加強監管監督,與銀行的監管評級掛鉤,這裡以頂層設計的戰略規劃、組織構建和資料治理域的資料標準體系構建為例來說明治理過程[10][11][12][13]。
(1)頂層設計-戰略規劃
《銀行資料治理指引》中的第九、第十七條明確提出了制定資料戰略的觀點。資料資產如何變現、如何創造收益已成為了銀行的共同話題,資料戰略主要涉及現有業務管理的數字化、創造新的數字化業務等內容。
a)現有業務管理的數字化,比如告別紙質、線下等一切非資料化、系統化的業務形式,控制前置提升審批效率,績效視覺化;又比如透過對網點運營、市場營銷、費用成本、績效管理等方面的資料分析,幫助銀行識別低效的流程環節,進行資源配置最佳化,提高運營效率、降低成本。
b)創造新的數字化業務,比如管理層藉助高質量的資料進行挖掘、分析,實現以客戶為中心的業務轉型,對銀行未來戰略方向進行更準確的前瞻性預測,提升銀行競爭力;又比如成立金融服務和科技子公司,開發機器人流程自動化應用(RPA)、金融雲服務等產品,進行能力輸出。
(2)頂層設計-組織構建
《銀行資料治理指引》中的第八至第十四條提出了組織架構的要求,比如第八點,銀行業金融機構應當建立組織架構健全、職責邊界清晰的資料治理架構,明確董事會、監事會、高階管理層和相關部門的職責分工,建立多層次、相互銜接的執行機制。
銀行根據資料戰略、自身組織架構特徵,構建資料治理組織架構,其的分散和集中程度各有不同。組織管理分散且資料需求較少或複雜程度較低的銀行,一般採用“分散模式”,各部門負責本領域的資料管理和應用;資料需求較多且複雜程度較高的銀行,可採用“歸口管理模式”、“集中+派駐模式”、“全集中模式”,具體選擇哪種方式,在銀行資料發展的階段中同時也取決於歸口管理部門的人力投入與專業能力,專業能力主要涉及組織溝通、業務理解、技術開發等方面。


目前監管明確要求銀行設定資料治理歸口管理部門,下圖以“歸口管理模式”為例進行了示例:


(3)資料治理域-資料管理體系(資料標準)
《銀行資料治理指引》中的第二十條、二十三條給出了建設資料標準的要求,比如第二十條,銀行業金融機構應當建立覆蓋全部資料的標準化規劃,遵循統一的業務規範和技術標準。資料標準應當符合國家標準化政策及監管規定,並確保被有效執行。
根據中國人民銀行定義的銀行業標準體系,將資料標準歸入銀行的通用基礎標準。作為銀行通用性、全域性性、基礎性的規範,指導銀行業務的開展和系統建設。


在實踐過程中,資料標準可分為基礎類資料標準以及指標類資料標準。基礎資料標準是針對業務開展過程中直接產生的資料制定的標準化規範;指標資料標準是針對為滿足內部分析管理需要以及外部監管需求對基礎類資料加工產生的資料制定的標準化規範。
從銀行層面來說,全行層級統一的資料標準是必須要做的,而且是要做到能夠長期有效和可落地執行的。由誰來牽頭、誰來管理、誰來執行? — — 各個銀行均有不同實踐,但是實踐效果來看,建議在資料標準制定過程中,將角色劃分為三類:


對於資料標準管理工作而言,資料治理歸口管理部門是作為牽頭者的角色,需要做到組織資料治理小組,將技術管理與業務管理的相關人員協同起來,完成資料標準制定工作。為資料標準制定提供資源協調、統籌安排等便利。
業務管理部門在資料標準制定中承擔著業務規範者的角色。這些部門在資料標準制定過程中承擔著提供權威業務定義和資料標準業務含義管理的多重職責。如果銀行將資料治理歸口管理部門確定在某一業務管理部門,則該部門需要同時承擔起工作牽頭和規範定義雙重責任。業務管理部門不僅能夠提出業務規範的要求,同時對技術屬性,也可以提出初步的建議方案,與資訊科技部門協同商榷。
資訊科技部門包括資訊科技管理部門及部分銀行已成立的專門的資料管理部門。資訊科技部門作為資料標準的技術規範執行者,其職責不僅在於制定過程中確認技術屬性具有可落地性,符合已建資訊系統現狀,還在於將確認後的資料標準實際落實在資訊系統中,確保資料標準能夠得到有效落地執行。
在大量實踐經驗中,銀行已然總結出一套資料標準編制的有效方法:
a)制度保障先行:構建層次分明的制度體系,形成從章程、專項管理辦法到工作細則三個梯次的制度層級。


在資料標準管理中,針對資料標準的專項管理辦法和具體工作細則必須首先予以明確。在制度中明確各個角色以及定義相應的分工介面,透過工作細則和相關的模板細化管理方式,固化管理流程,為制定資料標準、管理資料標準提供指導性意見。
比如工作細則需要打通資料治理在執行操作層面的“最後一公里”,指導一線工作人員按照規範化流程開展資料治理工作,為全行資料治理和提升奠定基礎。


b)歸口部門發揮牽頭作用:歸口管理部門需要積極發揮帶頭作用,推動和監督流程執行,爲數據標準制定工作,提供人力、技術、資金等關鍵資源,並獲得管理層的行政支持和充分授權,通過激勵和問責考覈體系,推進數據標準工作的制定與執行落地。
c)自下而上歸納與由上而下演繹相結合:數據標準梳理需要首先梳理內外部需求,細化形成對業務屬性、技術屬性的要求;一方面需要自下而上整理信息系統中的數據情況,同時也需要自上而下定義數據主題、細化分類,兩者結合才能夠實現全面整體的數據視圖,形成有效的數據規範要求。


從銀行資料標準的治理可以看到,組織應明確資料標準的內涵和範圍,建立資料標準體系及其管理機制,以支撐資料的標準化建設,保障資料在應用過程中的一致性,至少應:
a)明確資料標準的內涵和範圍,制定通用的資料規範,包括但不限於資料分類、資料型別、資料格式和編碼規則等,保障資料應用的過程中的一致性;
b)建立資料標準的實施方案和計劃,推進資料標準化實施的落地;
c)建立資料標準化管理機構和機制,明確責權利和流程,開展資料標準化的實施;
d)制定資料標準管理制度,保障資料標準化的實施和落地;
e)保障資料標準的先進性、前瞻性和技術層面的可執行性,滿足資料應用發展需要,持續開展資料標準的更新。
基本就講這麼多,文末列出了本文引用的所有參考文獻,方便你拓展閱讀,希望對你有所啟示。
參考文獻
1、作者:yazone 來源:知乎
https://www.zhihu.com/question/20096586/answer/1681362183
2、作者:億信華辰 來源:知乎
https://www.zhihu.com/question/61097142/answer/821387693
3、公司治理與公司管理有什麼區別?
4、馬歡:DAMA資料管理知識體系及對製造業資料治理的一點思考
https://www.163.com/dy/article/FQGFI4VD0531CS6R.html
5、【獨家】資料治理為資料資產保駕護航 上篇
http://www.dama.org.cn/drupal620/zh-hans/node/137
6、上篇 ▏資料治理為資料資產保駕護航(實錄+PPT+影片)
http://www.cbdio.com/BigData/2017-03/01/content_5461153.htm
7、下篇 ▏資料治理為資料資產保駕護航(實錄+PPT+影片)
http://www.cbdio.com/BigData/2017-03/02/content_5462029.htm
8、資料資產管理理論框架和能力建設 — — 劉晨
https://www.dams.org.cn/speech-3-7.html
9、DGI《資料治理框架》全文中文翻譯
https://www.secrss.com/articles/8879
10、【資料治理實踐】第二期:頂層設計之資料戰略、組織架構
11、【資料治理實踐】第一期:銀行業資料治理實踐難點及應對系列文章開篇
12、【資料治理實踐】 第三期:資料治理建章立制
13、第五期:基礎資料標準 — 從制定到落實
14、研究| 《資料治理白皮書》國際標準研究報告要點解讀
http://www.databanker.cn/info/75468
15、DAMA資料管理知識體係指南
16、DAMA資料管理知識體係指南(原書第二版)
17、DGI資料治理框架
18、GB∕T 34960.5–2018 資訊科技服務 治理 第5部分資料治理規範
19、 銀行業金融機構資料治理指引
無可顯示的留言
無可顯示的留言