欧美一区2区三区4区公司二百,国产精品婷婷午夜在线观看,自拍偷拍亚洲精品,国产美女诱惑一区二区

歡迎來到云服務器

大數據資訊

從一個浪潮案例看海量數據的分級保護應用

導讀:移動互聯時代,企業都面臨著海量數據帶來的挑戰,有一些企業馴服了海量數據,實現了“存的下、算的出”,但即使如此,這些企業很少跨過數據保護的門檻,因為傳統數據保護技術在面對PB級別數據量時,都或多或少的出現了問題,浪潮工程師開發了分級保護方案,很好的滿足了100PB級別的數據保護需求。

PB數據量挑戰傳統數據保護技術

提到數據保護和容災,很多人都會想到備份技術、存儲復制技術、數據卷復制技術、數據庫日志傳輸等,但是這些傳統技術沒法適應海量數據環境。數PB乃至數十PB規模的數據,是傳統數據保護技術和容災技術在設計和形成之初,所不能想象的。這些技術適用于百TB以下數據規模,大多數不能做到實時保護,容災數據日常處于離線或不可訪問狀態,難以滿足大數據應用需求。

勉強部署這些技術在海量數據環境下,災難恢復、可用性、穩定性等技術表現也會大打折扣。拿傳統備份技術來說,日常演練/驗證,數據需要重新加載,PB級數據環境下,加載時間往往是數天、甚至數周,若容災數據不能進行有效的日常驗證,整個容災架構的可靠性和實用性會急劇下降,所以在很多場景中,傳統方案僅限于方案,不能實際部署。

數據分級解決大數據容災問題

OpenStack、Hadoop、Spark等目前主流的云和大數據平臺,數據可靠性主要通過存儲子系統的副本和糾刪碼等技術來保證,這些技術只能保證本地數據安全可靠,沒法應對人為破壞、物理/邏輯故障、站點故障等情況,需要增加歷史數據保護和遠距離容災保護。

大數據平臺80%左右都是原始數據,這些數據經過數據清洗、治理形成平臺的標準資源庫數據,這個環節是一個海量數據結構化的過程,隨后,根據上層業務應用需求,由標準資源庫快速派生出多個主題庫、專題庫等,這些數據庫就直接對接上層應用了。

海量數據保護需要在深入了解業務模型和數據屬性的技術上,對這些數據進行分級保護,根據重要程度等技術指標,執行不同的保護策略,避免了成本高、技術難落地等實際問題。

數據分級保護

一個案例——50PB數據的保護

分級僅是海量數據保護的方案框架,具體方案需要針對客戶的具體應用場景進行設計,所以我們以剛剛成功上線的一個案例來詳細展開。

該用戶的數據量屬于超大規模級別,在全省有11個大數據分中心,1個大數據總中心,各個中心采集自己區域的原始數據,生成本地的標準資源庫,然后根據各自需求生成本地的主題庫、專題庫等,承接本地上層的應用;同時,各分中心傳輸本地的標準資源庫至總中心,匯聚為全省的標準資源庫,生成相關主題庫、專題庫,具備承接全省范圍內業務需求的能力,12個中心數據總量接近50PB。

數據分析——50PB數據保護1PB即可

用戶希望建立有效的容災機制,防范物理、邏輯、站點等故障。根據上文所述的原則,需要先對客戶的數據進行分類,根據不同的重要程度采取不同的數據保護技術。

首先是原始數據,這些數據可再生,而且據經過熱度訪問期后,便成為冷數據,價值低,規模大,不必采用額外的保護技術;其次是,標準資源庫數據,這些庫數據是大數據平臺的初次結果數據,含金量很高,是用戶大數據環境的核心數據,不易重建,有很強的數據保護和容災需求,然后是各類主題庫、專題庫等數據,這些庫數據由標準資源庫數據經過二次加工派生出而出,并支持快速重建,發生問題可以在用戶要求的RTO(復原時間目標)內完成重建,因而這類數據也不需要額外容災保護。最后則是各中心間冗余數據,顯然這些數據不需要容災保護

綜上,本項目僅需要為總中心的全量標準資源庫數據進行容災保護,數據量約1PB。

應用方案——3條傳輸通路冗余、計算存儲分離

浪潮為用戶設計了異地容災方案,將方案按照客戶要求部署在分數據中心10中。總中心的全量標準資源庫有1PB結構化數據,每日數據變化量為30TB~50TB,所以,異地容災架構中數據傳輸技術要支持高頻率周期性傳輸和實時傳輸模式,將增量數據復制過來,根據生產環境的壓力變化兩種傳輸技術可以靈活組合,美國服務器,保證異地容災大數據平臺為在線狀態,日常可以實時查詢數據、驗證數據。所以,容災數據傳輸采用ETL定制化工具,這種數據傳輸技術與大數據平臺有著天然的親和性,高速穩定、成熟可靠,目前,容災方案可以保證RPO≤1小時,RTO≤2小時。

騰訊云代理

Copyright © 2003-2021 MFISP.COM. 國外vps服務器租用 夢飛云服務器租用 版權所有 ? 粵ICP備11019662號

主站蜘蛛池模板: 澜沧| 梓潼县| 新巴尔虎右旗| 夏河县| 林芝县| 黑山县| 南丰县| 方山县| 阿合奇县| 济阳县| 古交市| 横山县| 黄石市| 青州市| 北辰区| 浦城县| 贵南县| 鞍山市| 上杭县| 屏南县| 蒙山县| 福海县| 三河市| 无棣县| 重庆市| 渭南市| 哈巴河县| 吉木萨尔县| 镇宁| 平昌县| 高陵县| 麻江县| 盈江县| 施秉县| 福清市| 宕昌县| 株洲县| 鱼台县| 南宫市| 安顺市| 虹口区|