大數(shù)據(jù)面臨的六個(gè)挑戰(zhàn)以及如何利用云計(jì)算克服這些挑戰(zhàn)?
毫無疑問,釋放大數(shù)據(jù)的潛力對(duì)于任何一個(gè)努力取得成功的現(xiàn)代企業(yè)都是至關(guān)重要的。不可否認(rèn),大數(shù)據(jù)在消費(fèi)者行為、豐富客戶體驗(yàn)、減少開支、推動(dòng)收入增長和促進(jìn)產(chǎn)品開發(fā)方面具有豐富的有價(jià)值的見解。
然而,管理大數(shù)據(jù)帶來了復(fù)雜的挑戰(zhàn),需要細(xì)致的關(guān)注和專業(yè)知識(shí)。分析大量數(shù)據(jù)可能是一項(xiàng)艱巨的任務(wù),但并非無法克服。
以下將探討大數(shù)據(jù)面臨的6個(gè)突出的挑戰(zhàn),并深入探討云計(jì)算基礎(chǔ)設(shè)施如何克服這些挑戰(zhàn)。通過利用云計(jì)算的力量,企業(yè)可以駕馭大數(shù)據(jù)管理的復(fù)雜性,并最大限度地發(fā)揮其潛力,取得無與倫比的成功。
1.數(shù)據(jù)增長
如皋全球產(chǎn)生的數(shù)據(jù)呈指數(shù)級(jí)增長,統(tǒng)計(jì)數(shù)據(jù)也證實(shí)了這一點(diǎn)。根據(jù)福布斯公司發(fā)布的一份報(bào)告,從2010年到2020年,全球創(chuàng)建、捕獲、復(fù)制和消費(fèi)的數(shù)據(jù)量從1.2萬億千兆字節(jié)增加到59萬億千兆字節(jié)。與此同時(shí),IDC指出,未來三年創(chuàng)造的數(shù)據(jù)量將超過過去30年創(chuàng)造的數(shù)據(jù)量。
這些可能是大量可能對(duì)企業(yè)有益的數(shù)據(jù)。但從中提取價(jià)值需要做很多工作。這包括存儲(chǔ)數(shù)據(jù),而數(shù)據(jù)存儲(chǔ)不是免費(fèi)的。將現(xiàn)有的服務(wù)器和存儲(chǔ)遷移到基于云計(jì)算的環(huán)境,以及軟件定義的存儲(chǔ)等解決方案和壓縮、分層和重復(fù)數(shù)據(jù)刪除等方法可以幫助減少空間消耗。
2.數(shù)據(jù)集成
從社交媒體頁面、電子郵件、財(cái)務(wù)報(bào)告到設(shè)備傳感器、衛(wèi)星圖像和送貨收據(jù),數(shù)據(jù)幾乎可以來自任何地方。其中一些可能是結(jié)構(gòu)化的數(shù)據(jù),還有一些可能是非結(jié)構(gòu)化的數(shù)據(jù)或是半結(jié)構(gòu)化的數(shù)據(jù)。企業(yè)面臨的挑戰(zhàn)是從所有不同的來源提取數(shù)據(jù),使其全部兼容,并提供統(tǒng)一的視圖,以便對(duì)其進(jìn)行分析并用于生成有洞察力的報(bào)告。
許多數(shù)據(jù)集成技術(shù)可用于數(shù)據(jù)集成。對(duì)于自動(dòng)化數(shù)據(jù)集成過程的軟件程序和平臺(tái)也是如此,以便將數(shù)據(jù)從源系統(tǒng)連接和路由到目標(biāo)系統(tǒng)。數(shù)據(jù)集成架構(gòu)師還可以開發(fā)定制版本。
選擇最合適的數(shù)據(jù)集成工具和技術(shù)需要確定最適合的集成需求和企業(yè)概要的工具和技術(shù)。
3.數(shù)據(jù)同步
從不同的數(shù)據(jù)源收集數(shù)據(jù)意味著可以按照不同的時(shí)間表和速率從不同的數(shù)據(jù)源遷移數(shù)據(jù)副本。其結(jié)果是:它們很容易與原始系統(tǒng)不同步,難以生成單一版本的“真相”,并可能導(dǎo)致錯(cuò)誤的數(shù)據(jù)分析。
試圖修復(fù)這種情況會(huì)減慢整個(gè)數(shù)據(jù)分析工作的速度。這可能會(huì)降低數(shù)據(jù)和分析的價(jià)值,因?yàn)樾畔⑼ǔV挥性诩皶r(shí)生成的情況下才有價(jià)值。
幸運(yùn)的是,有多種技術(shù)可以促進(jìn)數(shù)據(jù)同步。還有許多服務(wù)可以自動(dòng)化和加速流程。其中最好的還可以歸檔數(shù)據(jù)以釋放存儲(chǔ)容量,復(fù)制數(shù)據(jù)以實(shí)現(xiàn)業(yè)務(wù)連續(xù)性,或?qū)?shù)據(jù)傳輸?shù)皆贫诉M(jìn)行分析和處理。
內(nèi)置的安全功能是必須具備的,例如傳輸中的數(shù)據(jù)加密以及傳輸和靜態(tài)中的數(shù)據(jù)完整性驗(yàn)證。優(yōu)化網(wǎng)絡(luò)帶寬使用和自動(dòng)從網(wǎng)絡(luò)連接故障中恢復(fù)的能力也是加分項(xiàng)。
4.數(shù)據(jù)安全
大數(shù)據(jù)不僅對(duì)企業(yè)有價(jià)值,對(duì)于網(wǎng)絡(luò)罪犯也是如此。他們一直在竊取數(shù)據(jù)并將其用于邪惡目的,而且往往是成功的。因此,它可能是一個(gè)隱私問題,也可能是一個(gè)數(shù)據(jù)丟失預(yù)防問題和停機(jī)時(shí)間緩解問題。
這并不是說企業(yè)不考慮保護(hù)數(shù)據(jù)。問題是,他們可能沒有完全理解這需要一個(gè)多方面的、端到端的、不斷更新的方法。處理數(shù)據(jù)泄露的后果必須與預(yù)防數(shù)據(jù)泄露同等重要。這包括從數(shù)據(jù)起源的端點(diǎn)到存儲(chǔ)數(shù)據(jù)的數(shù)據(jù)倉庫和數(shù)據(jù)湖,再到與數(shù)據(jù)交互的用戶。
綜合數(shù)據(jù)安全策略中應(yīng)包括的策略包括:
數(shù)據(jù)加密和隔離
身份和訪問授權(quán)控制
端點(diǎn)安全
實(shí)時(shí)監(jiān)控
云平臺(tái)加固
安全功能隔離
網(wǎng)絡(luò)外圍安全
使用針對(duì)云環(huán)境中安全存儲(chǔ)數(shù)據(jù)而優(yōu)化的框架和架構(gòu)
5.法規(guī)遵循需求
處理數(shù)據(jù)安全和隱私的法規(guī)要求、行業(yè)標(biāo)準(zhǔn)和政府法規(guī)是復(fù)雜的、多管轄的,并且不斷變化。企業(yè)必須收集、存儲(chǔ)和處理的大量數(shù),這導(dǎo)致數(shù)據(jù)管道和存儲(chǔ)系統(tǒng)中充滿了數(shù)據(jù),使得滿足合規(guī)性要求變得特別困難。
第一步是掌握所有當(dāng)前和相關(guān)的合規(guī)性需求。如有必要,聘請(qǐng)外部專家。
與數(shù)據(jù)相關(guān)的合規(guī)性要求使用可靠、準(zhǔn)確的數(shù)據(jù)。自動(dòng)化和復(fù)制流程可以幫助確保分析的數(shù)據(jù)符合這一標(biāo)準(zhǔn),同時(shí)還可以促進(jìn)按需報(bào)告。其他有用的策略包括使用合規(guī)性和治理框架,這些框架可以連接企業(yè)中的多個(gè)系統(tǒng),以創(chuàng)建一致的、可審計(jì)的數(shù)據(jù)視圖,而不管數(shù)據(jù)位于何處。此外,集中式數(shù)據(jù)管道管理可以幫助簡化治理。
6.缺乏熟練人才
企業(yè)在利用大數(shù)據(jù)的力量時(shí)遇到的另一個(gè)主要挑戰(zhàn)是缺乏熟練的人才。大數(shù)據(jù)分析需要一套獨(dú)特的技能,包括數(shù)據(jù)科學(xué)、統(tǒng)計(jì)、編程和領(lǐng)域?qū)I(yè)知識(shí)。然而,擁有這些專業(yè)技能的專業(yè)人員嚴(yán)重短缺。這使得企業(yè)很難有效地分析并從數(shù)據(jù)中獲得見解。這種稀缺性給企業(yè)利用數(shù)據(jù)進(jìn)行戰(zhàn)略決策和創(chuàng)新的能力造成了瓶頸。
為了應(yīng)對(duì)大數(shù)據(jù)領(lǐng)域技術(shù)人才短缺的挑戰(zhàn),企業(yè)可以投資培訓(xùn)項(xiàng)目、研討會(huì)和認(rèn)證,讓員工掌握必要的技能。另一種方法是通過與經(jīng)驗(yàn)豐富的云專業(yè)服務(wù)公司合作來利用外部專業(yè)知識(shí)。這使得企業(yè)可以利用專家的知識(shí),而不需要長期承諾或昂貴的新員工。
盡管與大數(shù)據(jù)相關(guān)的復(fù)雜性,包括數(shù)據(jù)增長、集成、同步、安全性、合規(guī)性和技能短缺,但云提供了有價(jià)值的工具來克服這些障礙。通過采用數(shù)據(jù)壓縮、定制的集成工具、自動(dòng)同步、健壯的安全措施和遵守法規(guī)規(guī)范等技術(shù)的智能組合,企業(yè)可以從其數(shù)據(jù)寶庫中獲得巨大的價(jià)值。利用大數(shù)據(jù)的道路充滿挑戰(zhàn),但通過正確的策略和工具,它可以帶來無與倫比的創(chuàng)新。