2021 年，網(wǎng)絡(luò)人工智能公司 Darktrace 委托 Forrester 進(jìn)行了一項(xiàng)關(guān)于網(wǎng)絡(luò)安全準(zhǔn)備和人工智能的研究。在研究中，88% 的受訪安全領(lǐng)導(dǎo)認(rèn)為攻擊性 AI 不可避免，77% 預(yù)計(jì)武器化 AI 會導(dǎo)致攻擊規(guī)模和速度增加，66% 認(rèn)為 AI 武器化會導(dǎo)致人類無法發(fā)起的攻擊預(yù)見。

人工智能安全漏洞的前景令首席信息官們擔(dān)憂。在德勤人工智能研究中，1,900 名受訪者中有 49% 將人工智能網(wǎng)絡(luò)安全漏洞列為他們最關(guān)心的三大問題之一。

人工智能安全：抵御三重威脅

企業(yè)需要針對人工智能系統(tǒng)的三大威脅進(jìn)行規(guī)劃。這些威脅的范圍從數(shù)據(jù)和軟件泄露到您的合作伙伴。

1.數(shù)據(jù)

當(dāng)涉及到損害人工智能系統(tǒng)的結(jié)果時，感染數(shù)據(jù)是不良行為者的主要途徑。通常稱為“數(shù)據(jù)中毒”，攻擊者會找到篡改和扭曲數(shù)據(jù)的方法。發(fā)生這種情況時，對數(shù)據(jù)進(jìn)行操作的算法會變得不準(zhǔn)確，甚至?xí)鲥e。

Gartner 建議公司實(shí)施AI TRiSM(信任、風(fēng)險(xiǎn)和安全管理)框架，通過維護(hù)可信、可靠和受保護(hù)的數(shù)據(jù)來確保最佳的 AI 治理。

Gartner 杰出副總裁分析師Avivah Litan表示：“AI 威脅和妥協(xié)(惡意或良性)是持續(xù)不斷且不斷發(fā)展的，因此 AI TRiSM 必須是一項(xiàng)持續(xù)的努力，而不是一次性的練習(xí)”

其核心是確保 AI 算法操作的數(shù)據(jù)得到徹底清理，并保持這種狀態(tài)。安全和可觀察性軟件有助于確保這一點(diǎn)，同時在數(shù)據(jù)進(jìn)入任何 AI 系統(tǒng)之前定期徹底清理和審查數(shù)據(jù)。

第二層檢查點(diǎn)是組織性的。應(yīng)該建立一個跨學(xué)科小組，從 IT、法律、合規(guī)和最終用戶中吸取代表，他們是AI 系統(tǒng)主題方面的專家。一旦系統(tǒng)開始顯示不一致，表明結(jié)果或數(shù)據(jù)有偏差，該團(tuán)隊(duì)就應(yīng)該檢查系統(tǒng)，如果有必要，將其關(guān)閉。這既是一種安全管理，也是一種風(fēng)險(xiǎn)遏制技術(shù)。沒有組織愿意成為根據(jù)受損數(shù)據(jù)做出錯誤決策的受害者。

2.機(jī)器語言篡改

在試驗(yàn)場景中，Palo Alto Networks Security AI 研究團(tuán)隊(duì)想要測試用于檢測惡意軟件的AI 深度學(xué)習(xí)模型。該團(tuán)隊(duì)使用公開的研究論文構(gòu)建了一個惡意軟件檢測模型，該模型旨在模擬生產(chǎn)中模型的行為。生產(chǎn)模型被反復(fù)查詢，以便研究團(tuán)隊(duì)可以更多地了解其具體行為。正如該團(tuán)隊(duì)所了解的那樣，它調(diào)整了其模擬模型以產(chǎn)生相同的結(jié)果。最終，通過使用模擬模型，研究團(tuán)隊(duì)能夠繞過生產(chǎn)機(jī)器學(xué)習(xí)系統(tǒng)的惡意軟件檢測。

隨著 AI 系統(tǒng)攻擊越來越復(fù)雜，將會發(fā)生更多針對 AI 和機(jī)器學(xué)習(xí)代碼的攻擊。

組織可以采取的一個步驟是監(jiān)控他們的算法或 ML 代碼中有多少可能在開源社區(qū)或其他公共資源中可用。第二個策略是確保任何在 ML 引擎上工作和/或?qū)ζ溥M(jìn)行培訓(xùn)的員工或承包商都簽署了保密協(xié)議，如果他們試圖在其他地方使用代碼，他們將受到法律訴訟。

3. 供應(yīng)鏈治理

大多數(shù)人工智能系統(tǒng)使用內(nèi)部和外部數(shù)據(jù)的組合。外部數(shù)據(jù)是從第三方來源購買或獲得的。例如，一家研究其患者對某些疾病的遺傳易感性的醫(yī)院可能會使用從患者那里收集的內(nèi)部數(shù)據(jù)，但也會使用外部數(shù)據(jù)，這些外部數(shù)據(jù)可以為他們提供來自更大人群樣本的類似數(shù)據(jù)。這樣，醫(yī)院就可以確信它擁有盡可能全面和完整的數(shù)據(jù)。

在此示例中，醫(yī)院可以清理和審查自己的內(nèi)部數(shù)據(jù)，但它如何知道從供應(yīng)商供應(yīng)鏈中獲得的數(shù)據(jù)同樣值得信賴?首先要檢查的是供應(yīng)商的安全認(rèn)證和認(rèn)可。供應(yīng)商是否有它們，它們是從誰那里發(fā)出的，什么時候發(fā)出的?

其次，供應(yīng)商是否愿意提供其安全審計(jì)的最新副本?

第三，檢查參考文獻(xiàn)至關(guān)重要。該供應(yīng)商的其他用戶有何評價?

第四，供應(yīng)商是否有愿意簽署的保密協(xié)議?

第五，供應(yīng)商是否愿意接受一套面向安全的服務(wù)級別協(xié)議 (SLA) 作為合同的附錄?

這是在與外部來源簽訂任何數(shù)據(jù)購買協(xié)議之前應(yīng)檢查的安全項(xiàng)目的一般列表。

結(jié)束語

人工智能系統(tǒng)的安全性帶來了獨(dú)特的挑戰(zhàn)，因?yàn)閻阂夥桨l(fā)現(xiàn)了 IT 以前從未見過的攻擊這些系統(tǒng)的新方法。目前還沒有人能夠預(yù)測 AI 攻擊將如何演變，但現(xiàn)在評估您已經(jīng)擁有的安全技術(shù)和實(shí)踐并使其適應(yīng)大數(shù)據(jù)世界還為時過早。