物聯(lián)網(wǎng)是一個很寬泛的概念，是指各種設(shè)備、機(jī)器都通過互聯(lián)網(wǎng)連接起來，車聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)等都屬于物聯(lián)網(wǎng)范疇。根據(jù)Gartner報告，聯(lián)網(wǎng)的設(shè)備在2019年已經(jīng)超過142億，預(yù)計2021年將達(dá)到250億，這是一個巨大的數(shù)量。毫無疑問，我們需要一個物聯(lián)網(wǎng)大數(shù)據(jù)平臺來處理這些聯(lián)網(wǎng)設(shè)備產(chǎn)生的海量數(shù)據(jù)。
一個物聯(lián)網(wǎng)大數(shù)據(jù)平臺需要具備哪些功能?與通用的大數(shù)據(jù)平臺相比，它需要具備什么樣的特征呢?我們來仔細(xì)分析一下。
1. 高效分布式
必須是高效的分布式系統(tǒng)。物聯(lián)網(wǎng)產(chǎn)生的數(shù)據(jù)量巨大，僅中國而言，就有5億多臺智能電表，每臺電表每隔15分鐘采集一次數(shù)據(jù)，一天全國智能電表就會產(chǎn)生500多億條記錄。這么大的數(shù)據(jù)量，任何一臺服務(wù)器都無能力處理，因此處理系統(tǒng)必須是分布式的,水平擴(kuò)展的。為降低成本，一個節(jié)點的處理性能必須是高效的，需要支持數(shù)據(jù)的快速寫入和快速查詢。
2. 實時處理
必須是實時處理的系統(tǒng)?；ヂ?lián)網(wǎng)大數(shù)據(jù)處理，大家所熟悉的場景是用戶畫像、推薦系統(tǒng)、輿情分析等等，這些場景并不需要什么實時性，批處理即可。但是對于物聯(lián)網(wǎng)場景，需要基于采集的數(shù)據(jù)做實時預(yù)警、決策，延時要控制在秒級以內(nèi)。如果計算沒有實時性，物聯(lián)網(wǎng)的商業(yè)價值就大打折扣。
3. 高可靠性
需要運(yùn)營商級別的高可靠服務(wù)。物聯(lián)網(wǎng)系統(tǒng)對接的往往是生產(chǎn)、經(jīng)營系統(tǒng)，如果數(shù)據(jù)處理系統(tǒng)宕機(jī)，直接導(dǎo)致停產(chǎn)，產(chǎn)生經(jīng)濟(jì)有損失、導(dǎo)致對終端消費者的服務(wù)無法正常提供。比如智能電表，如果系統(tǒng)出問題，直接導(dǎo)致的是千家萬戶無法正常用電。因此物聯(lián)網(wǎng)大數(shù)據(jù)系統(tǒng)必須是高可靠的，域名購買，必須支持數(shù)據(jù)實時備份，必須支持異地容災(zāi)，必須支持軟件、硬件在線升級，必須支持在線IDC機(jī)房遷移，否則服務(wù)一定有被中斷的可能。
4. 高效緩存
需要高效的緩存功能。絕大部分場景，都需要能快速獲取設(shè)備當(dāng)前狀態(tài)或其他信息，用以報警、大屏展示或其他。系統(tǒng)需要提供一高效機(jī)制，讓用戶可以獲取全部、或符合過濾條件的部分設(shè)備的最新狀態(tài)。
5. 實時流式計算
需要實時流式計算。各種實時預(yù)警或預(yù)測已經(jīng)不是簡單的基于某一個閾值進(jìn)行，而是需要通過將一個或多個設(shè)備產(chǎn)生的數(shù)據(jù)流進(jìn)行實時聚合計算，不只是基于一個時間點、而是基于一個時間窗口進(jìn)行計算。不僅如此，計算的需求也相當(dāng)復(fù)雜，因場景而異，應(yīng)容許用戶自定義函數(shù)進(jìn)行計算。
6. 數(shù)據(jù)訂閱
需要支持數(shù)據(jù)訂閱。與通用大數(shù)據(jù)平臺比較一致，同一組數(shù)據(jù)往往有很多應(yīng)用都需要，因此系統(tǒng)應(yīng)該提供訂閱功能，只要有新的數(shù)據(jù)更新，就應(yīng)該實時提醒應(yīng)用。而且這個訂閱也應(yīng)該是個性化的，容許應(yīng)用設(shè)置過濾條件，比如只訂閱某個物理量五分鐘的平均值。
7. 和歷史數(shù)據(jù)處理合二為一
實時數(shù)據(jù)和歷史數(shù)據(jù)的處理要合二為一。實時數(shù)據(jù)在緩存里，歷史數(shù)據(jù)在持久化存儲介質(zhì)里，而且可能依據(jù)時長，保留在不同存儲介質(zhì)里。系統(tǒng)應(yīng)該隱藏背后的存儲，給用戶和應(yīng)用呈現(xiàn)的是同一個接口和界面。無論是訪問新采集的數(shù)據(jù)還是十年前的老數(shù)據(jù)，除輸入的時間參數(shù)不同之外，其余應(yīng)該是一樣的。
8. 數(shù)據(jù)持續(xù)穩(wěn)定寫入
需要保證數(shù)據(jù)能持續(xù)穩(wěn)定寫入。對于物聯(lián)網(wǎng)系統(tǒng)，數(shù)據(jù)流量往往是平穩(wěn)的，因此數(shù)據(jù)寫入所需要的資源往往是可以估算的。但是變化的是查詢、分析，特別是即席查詢，有可能耗費很大的系統(tǒng)資源，不可控。因此系統(tǒng)必須保證分配足夠的資源以確保數(shù)據(jù)能夠?qū)懭胂到y(tǒng)而不被丟失。準(zhǔn)確的說，系統(tǒng)必須是一個寫優(yōu)先系統(tǒng)。
9. 數(shù)據(jù)多維度分析
需要對數(shù)據(jù)支持靈活的多維度分析。對于聯(lián)網(wǎng)設(shè)備產(chǎn)生的數(shù)據(jù)，需要進(jìn)行各種維度的統(tǒng)計分析，比如從設(shè)備所處的地域進(jìn)行分析，從設(shè)備的型號、供應(yīng)商進(jìn)行分析，從設(shè)備所使用的人員進(jìn)行分析等等。而且這些維度的分析是無法事先想好的，而是在實際運(yùn)營過程中，根據(jù)業(yè)務(wù)發(fā)展的需求定下來的。因此物聯(lián)網(wǎng)大數(shù)據(jù)系統(tǒng)需要一個靈活的機(jī)制增加某個維度的分析。
10. 支持?jǐn)?shù)據(jù)計算
需要支持?jǐn)?shù)據(jù)降頻、插值、特殊函數(shù)計算等操作。原始數(shù)據(jù)的采集可能頻次挺高，但具體分析時，往往不需要對原始收據(jù)進(jìn)行，而是數(shù)據(jù)降頻之后。系統(tǒng)需要提供高效的數(shù)據(jù)降頻操作。設(shè)備是很難同步的，不同設(shè)備采集數(shù)據(jù)的時間點是很難對齊的，因此分析一個特定時間點的值，directadmin授權(quán)，往往需要插值才能解決，系統(tǒng)需要提供線性插值、設(shè)置固定值等多種插值策略才行。工業(yè)互聯(lián)網(wǎng)里，除通用的統(tǒng)計操作之外，往往還需要支持一些特殊函數(shù)，比如時間加權(quán)平均。
11. 即席分析和查詢
