數(shù)據(jù)集是人工智能的基礎(chǔ)。數(shù)據(jù)允許人工智能做出決策和分析趨勢，因為它們有大量數(shù)據(jù)點可供演繹推理參考。然而，數(shù)據(jù)中毒已經(jīng)進入網(wǎng)絡(luò)安全領(lǐng)域，破壞人工智能算法，試圖破壞人類為完善其準確性所做的工作。

數(shù)據(jù)中毒是一個相對較新的現(xiàn)象，是否有人發(fā)明了解決方案來對抗它?傳統(tǒng)的網(wǎng)絡(luò)安全方法能否在分析師適應(yīng)時用于創(chuàng)建防御?

什么是數(shù)據(jù)中毒?

數(shù)據(jù)中毒是指黑客成功地向人工智能提供數(shù)據(jù)以制造漏洞。AI 無法準確預測數(shù)據(jù)集是否已損壞——這就是垃圾郵件被標記為值得閱讀的方式，并且在您允許朋友使用您的帳戶后，您的 Netflix 推薦提要會變得混亂。

有時這是因為人工智能和機器學習還沒有足夠的時間來發(fā)展。有時，在數(shù)據(jù)中毒的情況下，這是因為黑客向 AI 模型提供了精心策劃的信息，這些信息有利于他們的事業(yè)，并扭曲了經(jīng)過訓練的 AI 的邏輯。

公司的人工智能模型可以完成從分析報告到自動響應(yīng)實時客戶的所有工作。大多數(shù)人工智能從事主動學習以獲取更多數(shù)據(jù)，而人類工作者則執(zhí)行常規(guī)任務(wù)。在這個階段，利用尚缺乏信息的萌芽系統(tǒng)并不具有挑戰(zhàn)性。

數(shù)據(jù)中毒有多有效?

如果包含網(wǎng)絡(luò)釣魚詐騙的危險電子郵件以可靠的語言和令人信服的簽名出現(xiàn)在您的收件箱中，則很容易意外泄露您的信息。

一些人認為，數(shù)據(jù)中毒可能是受到黑客傳統(tǒng)上利用缺乏網(wǎng)絡(luò)安全實踐培訓的方式所激發(fā)的。如果一家公司的人工智能處于起步階段或未經(jīng)培訓，那么它就像員工在不知不覺中回復網(wǎng)絡(luò)釣魚電子郵件一樣容易被利用。

數(shù)據(jù)中毒之所以有效，是因為它利用了這種缺乏意識。它通過以下方式在外觀和執(zhí)行上變得多才多藝：

• 重寫聊天機器人的語言傾向，使其說話不同或使用攻擊性語言
• 說服算法相信某些公司表現(xiàn)不佳
• 針對惡意軟件和抗病毒防御進行病毒采樣，以使其確信安全文件是惡意的

這些只是人工智能使用的幾個例子，以及中毒如何破壞操作。由于 AI 模型為不同類型的實現(xiàn)學習了不同的技能集，因此黑客 AI 毒害它們的方式與它們的用途一樣廣泛。這意味著治愈它們的解決方案可能同樣廣泛。

有多大的威脅?

從 Fortnite 到 WhatsApp 的企業(yè)由于安全系統(tǒng)乏善可陳而導致用戶信息泄露。人工智能可能是增強安全性所需的缺失成分，但它也可能會在它學習的同時邀請黑客毒害數(shù)據(jù)，從而導致進一步和更嚴重的違規(guī)行為。

中毒 AI 的影響是嚴重的。想象一下，通過簡單的輸入感染網(wǎng)絡(luò)，就能繞過網(wǎng)絡(luò)的安全措施。中毒的 AI 顛覆了公司的 AI 防御，給黑客留下了攻擊的機會。一旦黑客的人工智能控制了足夠多的防御，進行攻擊就像走進前門一樣容易。

由于這在網(wǎng)絡(luò)安全領(lǐng)域是一個相對較新的威脅，隨著威脅的加劇，分析師正在創(chuàng)建更多的解決方案。

防止數(shù)據(jù)中毒的最關(guān)鍵屏障是堅實的網(wǎng)絡(luò)安全基礎(chǔ)設(shè)施。教育自己，無論您是公司的員工還是作為企業(yè)家經(jīng)營自己的企業(yè)，都是我們最好的防御。

當新的解決方案不斷出現(xiàn)時，有多種選擇可以保護您的 AI免受中毒攻擊：

• 跟上定期維護：對您使用的模型中的數(shù)據(jù)進行檢查。確保故意提供給 AI 的信息仍然存在，不受隨機插入的干擾，否則會使其中毒。
• 謹慎選擇數(shù)據(jù)：從創(chuàng)建 AI 模型的那一刻起就小心謹慎。確保存儲在其中的所有內(nèi)容都是相關(guān)的，并且不會妥協(xié)，以至于黑客的工作很容易將您的文件連根拔起。
• 執(zhí)行積極的測試：對 AI 模型的滲透測試——執(zhí)行模擬的網(wǎng)絡(luò)攻擊——可能會發(fā)現(xiàn)你的網(wǎng)絡(luò)防御中的漏洞。

盡管似乎每周都會出現(xiàn)新的威脅，但重要的是不要忘記在新出現(xiàn)的威脅出現(xiàn)時保護資產(chǎn)的安全措施(例如良好的加密和零信任框架)。即使新的威脅進入網(wǎng)絡(luò)，實施這些策略仍然會有所幫助。

有數(shù)據(jù)中毒的解決方案嗎?

每一種新的網(wǎng)絡(luò)犯罪活動都為分析師、雇主和愛好者提供了推測趨勢的機會。盡管現(xiàn)在可能沒有一種萬能的解決方案來應(yīng)對不斷上升的數(shù)據(jù)中毒威脅，但最近的每次攻擊都是對網(wǎng)絡(luò)犯罪分子策略的洞察，為防御者提供了優(yōu)勢。

利用這些時刻進行準備而不是擔心將使我們能夠創(chuàng)建更有效的解決方案并有效地利用資源來保護盡可能多的數(shù)據(jù)。