以AI之盾防AI之矛,效果其實(shí)非常棒!?
以ChatGPT與Sora為代表的AIGC技術(shù),正在以令人驚嘆的自動(dòng)化、智能化能力席卷文字創(chuàng)作、軟件開發(fā)、影視后期等領(lǐng)域。打工人的“技能樹”上若缺少了AI方向的技能,都可能會(huì)讓自己在AI時(shí)代的競(jìng)爭(zhēng)力大幅降低。那么不妨猜猜看,一向會(huì)第一時(shí)間利用各類新技術(shù)的黑客,會(huì)不會(huì)把AI技術(shù)融入到自己的攻擊流程中?
那是必然的!
攻防兩端,AI應(yīng)用并非對(duì)稱發(fā)展
雙刃劍一般的生成式AI一方面能幫助企業(yè)員工釋放生產(chǎn)力;但到了黑客手中,也會(huì)成為一種發(fā)起狂轟濫炸飽和式攻擊的智能化武器。近期,文生視頻大模型Sora高逼真度的人物形象塑造,就在驚艷業(yè)界的同時(shí),讓人不禁擔(dān)心同類技術(shù)是否會(huì)被黑客濫用于深度偽造的“換臉”社會(huì)工程攻擊上。而很快就出現(xiàn)了一個(gè)實(shí)例:有網(wǎng)絡(luò)犯罪分子通過AI換臉技術(shù)巧設(shè)圈套,詐騙香港職員2億港幣。
除了來自外部的威脅會(huì)用到AI,隨著企業(yè)內(nèi)部對(duì)AI的應(yīng)用逐漸深入,這也會(huì)導(dǎo)致出現(xiàn)一些新的挑戰(zhàn)。AI高度普及的大趨勢(shì)下,AI工具正在納入多行業(yè)的工作流程中。Forrester研究咨詢公司預(yù)測(cè),2024年有60%員工會(huì)在工作中使用自己的AI工具,但這會(huì)帶來監(jiān)管和合規(guī)性挑戰(zhàn)。因?yàn)檫@是一種員工自知、公司層面未知的影子AI。譬如,這種員工可能會(huì)使用AI掃描數(shù)百個(gè)PPT內(nèi)容,一旦掃描內(nèi)容涉及企業(yè)機(jī)密,便有可能存在數(shù)據(jù)泄露的風(fēng)險(xiǎn)。
很多企業(yè)已經(jīng)注意到這種情況,并開始采取一定的措施。IBM GenAI安全報(bào)告數(shù)據(jù)顯示,51%高管們表示,去年自己在AI網(wǎng)絡(luò)安全方面的預(yù)算相比2021年增加了51%。預(yù)計(jì)到2025年,預(yù)算將進(jìn)一步增加43%。
那么有了想法和目標(biāo),具體又該如何應(yīng)對(duì)?既然是AI造成的威脅,能否用AI技術(shù)來防范?答案是肯定的!
AI已成為影響云安全的新“變量”
攻擊多樣化
黑客對(duì)AI的武器化濫用,正在催化與激化出多種多樣的安全風(fēng)險(xiǎn),包括由于ML模型缺陷導(dǎo)致的敏感數(shù)據(jù)泄露,以及惡意行為者濫用AI實(shí)施的網(wǎng)絡(luò)釣魚或社會(huì)工程攻擊。此外,AI生成的文本、圖像、視頻等內(nèi)容作品,也存在潛在的版權(quán)風(fēng)險(xiǎn)。
常見AI風(fēng)險(xiǎn)威脅 |
||
社會(huì)工程 |
勒索病毒 |
網(wǎng)絡(luò)釣魚 |
數(shù)據(jù)投毒 |
數(shù)據(jù)泄露 |
版權(quán)侵害 |
攻擊界面增加
AI大模型在企業(yè)間的普及應(yīng)用,得益于云服務(wù)提供的巨量算力。為實(shí)現(xiàn)低延遲、高可靠的響應(yīng)速度,企業(yè)更需要使用云端的計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)資源。從集中式的云端,到分布式的邊緣區(qū)域,當(dāng)下的攻擊界面已延展至邊緣數(shù)據(jù)中心,以及更多的邊緣設(shè)備和應(yīng)用系統(tǒng)(如物聯(lián)網(wǎng)),這讓安全的防護(hù)邏輯也更趨向于邊緣側(cè),中心化的安全架構(gòu)將很難實(shí)現(xiàn)AI架構(gòu)的安全需求。
邊緣安全關(guān)注點(diǎn) |
||
邊緣位置 |
邊緣設(shè)備 |
邊緣威脅 |
攻擊巨量高頻
基于AI武器化工具的自動(dòng)化能力,黑客發(fā)起攻擊的體量與頻次持續(xù)飆升。威脅情報(bào)公司SlashNext報(bào)告顯示,從2022年底到2023年第三季度,惡意網(wǎng)絡(luò)釣魚郵件出現(xiàn)了1265%的增幅。應(yīng)對(duì)海量高頻的攻擊體量,僅依靠企業(yè)IT團(tuán)隊(duì)的人工運(yùn)維,將不足以構(gòu)筑強(qiáng)有力的安全防線。
AI時(shí)代,Akamai給出四大云安全對(duì)策
鑒于“黑客 + AI”所進(jìn)化出的高頻、多樣、大面積攻擊形態(tài),2024年將成為企業(yè)夯實(shí)AI云安全基礎(chǔ)的關(guān)鍵一年。在多種攻擊樣式中,上文提及的社會(huì)工程攻擊已成為網(wǎng)絡(luò)犯罪分子的首選武器。黑客通過精心巧設(shè)的騙局手法,從財(cái)務(wù)、人事等非IT部門雇員入手,撕開企業(yè)的安全缺口。
針對(duì)AI的安全防御缺口有多大呢?相關(guān)數(shù)據(jù)顯示,有94%的高管已意識(shí)到部署AI解決方案之前確保安全非常重要;但在未來六個(gè)月內(nèi),僅有24%創(chuàng)新型AI項(xiàng)目,將包含網(wǎng)絡(luò)安全組件。
為什么層出不窮的網(wǎng)絡(luò)犯罪分子總是能策劃出“令人信服”的高仿釣魚郵件、仿冒網(wǎng)站、假面會(huì)議等騙局?這是由于借助AI更容易查到受害者的個(gè)人隱私信息、生物信息、社會(huì)關(guān)系信息,并通過生成式AI技術(shù)進(jìn)行深度模擬與偽造。面對(duì)從種種維度滲透入侵的攻擊“誘餌”,整個(gè)數(shù)字化社會(huì)與企業(yè)組織全員,都需要提升云安全素養(yǎng),展開針對(duì)惡意AI的“全員反詐”。
為了幫助企業(yè)構(gòu)筑安全防線,善用AI提升安全識(shí)別力,Akamai提出了下列四條對(duì)策:
定期展開云安全培訓(xùn),培養(yǎng)全員AI應(yīng)用素養(yǎng):泛濫于視頻宣傳等領(lǐng)域的AI深度偽造,對(duì)輿論的影響力和破壞力驚人。全社會(huì)與企業(yè)組織成員,均需展開相關(guān)培養(yǎng),培養(yǎng)全員AI素養(yǎng)來提升識(shí)別欺詐的意識(shí),以及安全應(yīng)用AI的標(biāo)準(zhǔn)操作。
不僅僅依賴IT部門,全員協(xié)同共構(gòu)安全防線:多云與邊緣創(chuàng)新趨勢(shì)下,攻擊界面持續(xù)擴(kuò)張,API與供應(yīng)鏈攻擊無孔不入。由于AI架構(gòu)的變化以及AI工具使用范圍的擴(kuò)大,整個(gè)的安全體系更需要下沉,組織不僅要借助IT部門預(yù)測(cè)不斷變化的威脅,還要定期評(píng)估組織的整體安全和風(fēng)險(xiǎn)態(tài)勢(shì),全員共構(gòu)安全防線。
真正做好安全基礎(chǔ)工作,仍然是第一防御要?jiǎng)?wù):從AI基礎(chǔ)架構(gòu)、核心組件、通信協(xié)議、基礎(chǔ)算法等方面,依舊存在傳統(tǒng)的安全威脅。要做好AI的安全防護(hù),更需要在威脅的識(shí)別、可視化、零信任、微隔離、API安全等方面,夯實(shí)安全基礎(chǔ)防護(hù)。防控AI大模型的數(shù)據(jù)泄露風(fēng)險(xiǎn),即可采用零信任架構(gòu)與API可視化和行為分析。
用AI點(diǎn)亮安全視野,提升全域威脅可見性:以AI對(duì)抗AI是當(dāng)下的一大云安全策略。利用AI的深度學(xué)習(xí)能力,建立攻擊識(shí)別模型,提升攻擊識(shí)別度、降低誤報(bào)率。Akamai云安全產(chǎn)品中便融合有深度學(xué)習(xí)算法,可助力企業(yè)客戶對(duì)惡意爬蟲與釣魚攻擊的識(shí)別;借助AI大模型能力,還能夠收集到更多威脅情報(bào),通過深度分析得到更精準(zhǔn)的威脅感知和預(yù)警。
應(yīng)對(duì)黑客在濫用AI上所取得不對(duì)稱優(yōu)勢(shì),Akamai現(xiàn)有傳統(tǒng)人工智能類產(chǎn)品能力,可以幫助客戶檢測(cè)到“異常情況、攻擊情況、碰撞攻擊、帳號(hào)盜用”等風(fēng)險(xiǎn),在安全事件發(fā)生前提升對(duì)威脅的可見性。
基于ML算法構(gòu)建的三大優(yōu)勢(shì)
1、可擴(kuò)展性
對(duì)于Akamai全球智能云平臺(tái)捕獲的大量數(shù)據(jù),可由機(jī)器學(xué)習(xí)算法來完成分析,以此來應(yīng)對(duì)黑客的規(guī)模化飽和攻擊的巨大體量。
2、動(dòng)態(tài)識(shí)別
機(jī)器學(xué)習(xí)算法對(duì)于攻擊的識(shí)別,并非靜態(tài)的簽名模式,而是可以動(dòng)態(tài)提取字段,多角度進(jìn)行賦分、判別攻擊的類別和等級(jí)。
3、自動(dòng)運(yùn)維
機(jī)器學(xué)習(xí)算法獲得新數(shù)據(jù)時(shí),會(huì)更新規(guī)則、動(dòng)態(tài)調(diào)整策略,采用Deny模式,進(jìn)而解放安全運(yùn)維的人力操作,智能實(shí)現(xiàn)安全策略的部署、檢測(cè)、優(yōu)化等功能。
同時(shí),面對(duì)層出不窮的網(wǎng)絡(luò)釣魚、勒索軟件攻擊、DDoS高峰惡意流量沖擊等AI助攻下的巨量威脅,Akamai也有針對(duì)性地積淀與構(gòu)建了一系列云安全產(chǎn)品線,緩解AI所帶來的潛在安全威脅。
注入AI能力的云安全產(chǎn)品矩陣
Akamai App & API Protector
提供給自適應(yīng)安全保護(hù)引擎,自動(dòng)為企業(yè)的應(yīng)用程序和API推送更新的保護(hù)措施;借助Akamai管理的更新和機(jī)器學(xué)習(xí)賦能的自主調(diào)優(yōu),可盡可能減少工作量,無需進(jìn)行耗時(shí)的手動(dòng)維護(hù)。
Akamai Bot Manager
使用AI模型檢測(cè)高級(jí)爬蟲程序,進(jìn)行用戶行為分析、瀏覽器指紋識(shí)別等主動(dòng)安全防御;基于每天數(shù)十億的爬蟲程序請(qǐng)求和登錄,從更真實(shí)、更具價(jià)值的數(shù)據(jù)中獲取情報(bào)。
Akamai Guardicore Segmentation
輸出全域IT基礎(chǔ)架構(gòu)的動(dòng)態(tài)安全圖譜,查看用戶實(shí)時(shí)和過往的進(jìn)程級(jí)顆粒度活動(dòng),借助AI建議、用于修復(fù)勒索軟件和常見案例的模板以及精確工作負(fù)載屬性,跨混合云、本地和傳統(tǒng)系統(tǒng)保護(hù)關(guān)鍵資產(chǎn),實(shí)現(xiàn)更具精細(xì)粒度的AI微分段模式。
Akamai Hunt
Akamai Hunt托管威脅搜尋服務(wù),在收集到分段部署的本地?cái)?shù)據(jù)和DNS傳感器中全局?jǐn)?shù)據(jù)等信號(hào)源后,可以將AI/ML分析應(yīng)用于多個(gè)遙測(cè)源和收集的信號(hào),快速檢測(cè)威脅;隨后,通過詳細(xì)的實(shí)時(shí)告警提供相關(guān)見解和抵御威脅的安全信息。
云邊一體,AI向未來
回顧Akamai云安全創(chuàng)新歷程,自2016年以來,Akamai一直在利用深度學(xué)習(xí)AI幫助客戶部署安全解決方案。借助AI工具支持分析和分類Akamai每天觀察到的超過450TB新攻擊數(shù)據(jù)和11萬億次DNS查詢,構(gòu)建有全球范圍內(nèi)的云安全可見性。
伴隨著企業(yè)愈發(fā)需在邊緣獲取高性價(jià)比、高穩(wěn)定性、超低延遲的算力資源與安全防護(hù),Akamai也在持續(xù)研究如何更好地使用大語言模型和生成式AI, 未來將進(jìn)一步增強(qiáng)Akamai Connected Cloud等云計(jì)算、云安全、云分發(fā)產(chǎn)品矩陣效能,助力客戶貼近終端用戶的計(jì)算、安全與內(nèi)容交付需求,煥新智能開發(fā)與安全運(yùn)維體驗(yàn),全方位釋放生產(chǎn)力,加速全球化市場(chǎng)布局。
- 上一篇
有效的數(shù)據(jù)治理如何推動(dòng)業(yè)務(wù)增長(zhǎng)
數(shù)據(jù)治理顯得尤為重要,它確保了企業(yè)內(nèi)數(shù)據(jù)的有效和高效管理。數(shù)據(jù)治理的核心目標(biāo)是確保數(shù)據(jù)在其生命周期內(nèi),從獲取到使用,都以支持企業(yè)業(yè)務(wù)目標(biāo)的方式進(jìn)行管理。
- 下一篇
受生成式AI推動(dòng),2024年全球公有云支出將增長(zhǎng)到6754億美元
根據(jù)Gartner日前預(yù)測(cè),受到生成式人工智能(GenAI)和應(yīng)用現(xiàn)代化的推動(dòng),全球用戶今年在公有云服務(wù)上的支出將增長(zhǎng)到6754億美元。這一數(shù)字與去年的5,610億美元相比大幅增長(zhǎng)了20.4%。