怎么實(shí)現(xiàn)“數(shù)據(jù)找人而不是人找數(shù)據(jù)”的夢(mèng)想?“數(shù)據(jù)編織”(Data Fabric)悄然登場(chǎng)。2018年“Data Fabric”首次出現(xiàn)在Gartner的十大數(shù)據(jù)與分析技術(shù)趨勢(shì)中,以后每年它都會(huì)出現(xiàn)在其中。10年前大數(shù)據(jù)概念在國(guó)外興起后,不到3年就被中國(guó)用戶廣泛接受,而今天大多數(shù)中國(guó)廠商則是按兵不動(dòng),這又是為何呢?
“數(shù)據(jù)編織”悄然登場(chǎng)
Data Fabric的中文名字到底怎么翻譯,IBM公司與Gartner有了分歧。IBM大中華區(qū)科技事業(yè)部云計(jì)算與認(rèn)知軟件部數(shù)據(jù)與人工智能信息架構(gòu)產(chǎn)品總監(jiān)王積杰將其稱為“數(shù)據(jù)經(jīng)緯”,而Gartner高級(jí)研究總監(jiān)孫鑫認(rèn)為“數(shù)據(jù)編織”更為合適,因?yàn)樗J(rèn)為數(shù)據(jù)編織更凸顯“動(dòng)態(tài)”。
在Data Fabric出來(lái)之前,數(shù)據(jù)結(jié)構(gòu)的設(shè)計(jì)都主要部署成靜態(tài)基礎(chǔ)設(shè)施,而在未來(lái)將需要采用更動(dòng)態(tài)的數(shù)據(jù)網(wǎng)格方法全面重新設(shè)計(jì)。
孫鑫在接受記者采訪時(shí)表示,Data Fabric不是一個(gè)產(chǎn)品而是一種設(shè)計(jì)理念,是利用AI、機(jī)器學(xué)習(xí)和數(shù)據(jù)科學(xué)的功能,訪問(wèn)數(shù)據(jù)或支持?jǐn)?shù)據(jù)動(dòng)態(tài)整合,以發(fā)現(xiàn)可用數(shù)據(jù)之間獨(dú)特的、與業(yè)務(wù)相關(guān)的關(guān)系。
而IBM對(duì)Data Fabric的看法,與Gartner專家提到的“動(dòng)態(tài)”“數(shù)據(jù)網(wǎng)格”和AI賦能并無(wú)沖突。IBM中國(guó)研發(fā)中心首席技術(shù)官趙軍偉解釋:“經(jīng)緯作為名詞,本意為織物的直線與橫線,引申為連接萬(wàn)物的規(guī)律,《左傳·昭公二十五年》中寫(xiě)道——‘禮,上下之紀(jì),天地之經(jīng)緯也。’ 作為地理概念,經(jīng)緯度可以定位地球上任何一個(gè)位置,而‘數(shù)據(jù)經(jīng)緯’則可以在紛繁復(fù)雜的企業(yè)數(shù)據(jù)目錄里定位任意一個(gè)數(shù)據(jù)源。經(jīng)緯用作動(dòng)詞,是規(guī)劃治理的意思,《周書(shū)·靜帝紀(jì)》中提到的‘經(jīng)天緯地’就是治理天下的意思。”
“我們可以把Data Fabric想象成一張?zhí)摂M的網(wǎng),這張網(wǎng)并不能理解為一種點(diǎn)對(duì)點(diǎn)連接,而是一種虛擬連接,每個(gè)節(jié)點(diǎn)都可以是不同的數(shù)據(jù)系統(tǒng),不同系統(tǒng)上的數(shù)據(jù)在網(wǎng)上都可以迅速被定位和找到。Data Fabric的主要功能是把正確的數(shù)據(jù),在正確的時(shí)間里,給到正確的人。通過(guò)Data Fabric, 對(duì)的人可以從對(duì)的地點(diǎn),在對(duì)的時(shí)間里,獲取對(duì)的數(shù)據(jù)。”王積杰對(duì)記者說(shuō)。
現(xiàn)在的數(shù)據(jù)連接的架構(gòu)設(shè)計(jì)還主要是“人找數(shù)據(jù)”,而Data Fabric設(shè)計(jì)核心是“數(shù)據(jù)找人”,在合適的時(shí)間、將合適的數(shù)據(jù)推送給需要的人。
為什么Data Fabric將會(huì)成為一種趨勢(shì),為什么越來(lái)越多的企業(yè)將在未來(lái)采用這樣的方式進(jìn)行部署?王積杰談及了數(shù)據(jù)利用結(jié)構(gòu)模式的變化。傳統(tǒng)IT時(shí)代,無(wú)論是早年的“數(shù)據(jù)倉(cāng)庫(kù)”還是近幾年的“數(shù)據(jù)湖”和“大數(shù)據(jù)”時(shí)代,其實(shí)數(shù)據(jù)利用都是集中式的架構(gòu),把數(shù)據(jù)收集到一起,讓企業(yè)的數(shù)據(jù)分析師、BI(商業(yè)智能)分析師對(duì)數(shù)據(jù)進(jìn)行分析。但在云計(jì)算時(shí)代,用戶業(yè)務(wù)部署在多云的環(huán)境下,要想將分布在不同云上的數(shù)據(jù)集中在一起成本很高,也很費(fèi)勁,于是采用去中心化、分布式的數(shù)據(jù)網(wǎng)絡(luò)架構(gòu)就成為了必然選擇。
Data Fabric可以同時(shí)給業(yè)務(wù)和技術(shù)團(tuán)隊(duì)帶來(lái)明確的價(jià)值,王積杰表示,從業(yè)務(wù)層面來(lái)看,由于企業(yè)能更容易地獲得高質(zhì)量的數(shù)據(jù),從而能更快和更精確地獲得企業(yè)數(shù)據(jù)洞察。從技術(shù)層面來(lái)說(shuō),由于數(shù)據(jù)復(fù)制的次數(shù)和數(shù)量較少,從而減少了數(shù)據(jù)集成的工作,方便維護(hù)數(shù)據(jù)質(zhì)量和標(biāo)準(zhǔn),也減少了硬件架構(gòu)和存儲(chǔ)的開(kāi)銷。由于減少了數(shù)據(jù)復(fù)制和大大優(yōu)化了數(shù)據(jù)流程,加快并簡(jiǎn)化了數(shù)據(jù)處理過(guò)程,從而通過(guò)實(shí)施自動(dòng)化的整體數(shù)據(jù)策略,減少了數(shù)據(jù)訪問(wèn)管理的工作。
Gartner認(rèn)為,隨著數(shù)據(jù)的日益復(fù)雜以及數(shù)字化業(yè)務(wù)的加速發(fā)展,Data Fabric已成為支持組裝式數(shù)據(jù)分析及其各種組件的基礎(chǔ)架構(gòu)。由于在技術(shù)設(shè)計(jì)上能夠使用/重復(fù)使用及組合不同的數(shù)據(jù)集成方式,Data Fabric可縮短30%的集成設(shè)計(jì)時(shí)間、30%的部署時(shí)間和70%的維護(hù)時(shí)間。IBM 7月發(fā)布的Cloud Pak for Data4.0的軟件組合增加了智能化的Data Fabric功能,其中AutoSQL(結(jié)構(gòu)化查詢語(yǔ)言),可以通過(guò)AI來(lái)自動(dòng)訪問(wèn)、整合和管理數(shù)據(jù),可以幫助客戶以8倍的速度、不到一半的成本,獲得分布式查詢的答案。
如何“編織”數(shù)據(jù)?
要實(shí)現(xiàn)“數(shù)據(jù)找人而不是人找數(shù)據(jù)”,Data Fabric究竟如何“編織”?
王積杰認(rèn)為,Data Fabric至少需要四個(gè)維度的能力。一是能夠在數(shù)據(jù)之間建立虛擬鏈接,簡(jiǎn)化數(shù)據(jù)訪問(wèn)的模式,從而減少數(shù)據(jù)復(fù)制的數(shù)量。二是需要建立一個(gè)企業(yè)數(shù)據(jù)目錄,并需要利用AI技術(shù),自動(dòng)化地實(shí)現(xiàn)基于語(yǔ)義和知識(shí)的分析,理解數(shù)據(jù)及其業(yè)務(wù)含義,并建立知識(shí)圖譜, 從而使數(shù)據(jù)目錄變得智能化和自動(dòng)化。能夠讓需要數(shù)據(jù)的用戶,隨時(shí)了解到需要的數(shù)據(jù)在哪里、數(shù)據(jù)質(zhì)量如何等。三是建立自動(dòng)化數(shù)據(jù)平臺(tái),允許用戶通過(guò)自服務(wù)的方式,directadmin安裝,訪問(wèn)并獲取數(shù)據(jù)。四是通過(guò)提供整體的自動(dòng)化策略,確保數(shù)據(jù)安全,增加數(shù)據(jù)的隱私和權(quán)限保護(hù),并提高數(shù)據(jù)質(zhì)量。