人工智能審計是指評估人工智能系統(tǒng)，以確保它們按預期工作，沒有偏見或歧視，并符合道德和法律標準。人工智能在過去十年中經歷了指數(shù)級增長。因此，與人工智能相關的風險已成為組織關注的問題。正如埃隆·馬斯克所說：

“人工智能是一種罕見的案例，我認為我們需要在監(jiān)管方面積極主動，而不是被動應對。”

組織必須為使用 AI 的員工制定治理、風險評估和控制策略。人工智能問責制在風險很高的決策中變得至關重要，例如在一個區(qū)域而不是另一個區(qū)域部署警務、雇用和拒絕候選人。

本文將概述人工智能審計、人工智能審計的框架和法規(guī)，以及審計人工智能應用程序的清單。

需要考慮的因素

合規(guī)性：與 AI 系統(tǒng)遵守法律、法規(guī)、道德和社會考慮因素相關的風險評估。

技術：與技術能力相關的風險評估，包括機器學習、安全標準和模型性能。

審計人工智能系統(tǒng)的挑戰(zhàn)

偏見：人工智能系統(tǒng)可以放大他們接受訓練的數(shù)據中的偏見，并做出不公平的決定。認識到這個問題，斯坦福大學的一個研究問題研究所 Human Centered AI (HAI) 發(fā)起了一項價值 71,000 美元的創(chuàng)新挑戰(zhàn)，以設計更好的 AI 審計。這一挑戰(zhàn)的目的是禁止人工智能系統(tǒng)中的歧視。

復雜性：人工智能系統(tǒng)，尤其是那些采用深度學習的系統(tǒng)，非常復雜且缺乏可解釋性。

人工智能審計的現(xiàn)有法規(guī)和框架

法規(guī)和框架是審計人工智能的北極星。下面討論了一些重要的審計框架和法規(guī)。

審計框架

COBIT框架(Control Objectives for Information and related Technology)：是企業(yè)IT治理和管理的框架。

IIA(內部審計師協(xié)會)的 AI 審計框架：該 AI 框架旨在評估 AI 系統(tǒng)的設計、開發(fā)和工作及其與組織目標的一致性。IIA 人工智能審計框架的三個主要組成部分是戰(zhàn)略、治理和人為因素。它有以下七個要素：

網絡彈性

人工智能能力

數(shù)據質量

數(shù)據架構和基礎設施

衡量績效

倫理

黑匣子

COSO ERM 框架：該框架為評估組織中人工智能系統(tǒng)的風險提供了一個參考框架。它有五個內部審計組成部分：

內部環(huán)境：確保組織的治理和管理正在管理 AI 風險

目標設定：與利益相關者合作制定風險策略

事件識別：識別人工智能系統(tǒng)中的風險，例如意外偏差、數(shù)據泄露

風險評估：風險的影響是什么?

風險應對：組織將如何應對風險情況，例如次優(yōu)數(shù)據質量?

規(guī)定

通用數(shù)據保護條例(GDPR)是歐盟法規(guī)中的一項法律，規(guī)定組織有義務使用個人數(shù)據。它有七個原則：

合法、公平、透明：個人數(shù)據處理必須遵守法律

目的限制：僅將數(shù)據用于特定目的

數(shù)據最小化：個人數(shù)據必須充足且有限

準確性：數(shù)據應該是準確的和最新的

存儲限制：不要存儲不再需要的個人數(shù)據

完整性和保密性：過去安全處理的個人數(shù)據

責任：控制者按照合規(guī)性負責任地處理數(shù)據

其他法規(guī)包括CCPA和PIPEDA。

人工智能審計清單

數(shù)據源

識別和審查數(shù)據源是審計人工智能系統(tǒng)的首要考慮因素。審計員檢查數(shù)據質量以及公司是否可以使用這些數(shù)據。

交叉驗證

確保模型得到適當?shù)慕徊骝炞C是審計人員的檢查清單之一。驗證數(shù)據不應用于訓練，驗證技術應確保模型的通用性。

安全托管

在某些情況下，人工智能系統(tǒng)會使用個人數(shù)據。評估托管或云服務是否滿足 OWASP(開放 Web 應用程序安全項目)指南等信息安全要求非常重要。

可解釋的人工智能

可解釋的人工智能是指解釋和理解人工智能系統(tǒng)做出的決定以及影響它的因素。審計員使用 LIME 和 SHAP 等技術檢查模型是否可以充分解釋。

模型輸出

公平性是審核員在模型輸出中確保的第一件事。當性別、種族或宗教等變量發(fā)生變化時，模型輸出應保持一致。此外，還評估了使用適當評分方法的預測質量。

社會反饋

人工智能審計是一個持續(xù)的過程。一旦部署，審計人員應該看到人工智能系統(tǒng)的社會影響。人工智能系統(tǒng)和風險策略應根據反饋、使用、后果和影響(無論是正面的還是負面的)進行相應的修改和審計。

審計AI管道和應用程序的公司

審計AI的五家主要公司如下：

德勤：德勤是世界上最大的專業(yè)服務公司，提供與審計、稅務和財務咨詢相關的服務。Deloitte 使用 RPA、AI 和分析來幫助組織對其 AI 系統(tǒng)進行風險評估。

普華永道：普華永道是收入第二大的專業(yè)服務網絡。他們開發(fā)了審計方法來幫助組織確保問責制、可靠性和透明度。

安永：2022年，安永宣布投資10億美元用于人工智能技術平臺，以提供高質量的審計服務。人工智能驅動的公司在審計人工智能系統(tǒng)方面消息靈通。

畢馬威會計師事務所：畢馬威會計師事務所是第四大會計服務提供商。畢馬威在人工智能治理、風險評估和控制方面提供定制服務。

Grant Thronton：他們幫助客戶管理與 AI 部署以及 AI 道德和法規(guī)合規(guī)性相關的風險。

審計人工智能系統(tǒng)的好處

風險管理：審計可以防止或減輕與人工智能系統(tǒng)相關的風險。

透明度：審計確保人工智能應用程序沒有偏見和歧視。

合規(guī)性：審核AI應用程序意味著系統(tǒng)遵循法律和法規(guī)合規(guī)性。

人工智能審計：未來會怎樣

組織、監(jiān)管機構和審計人員應與人工智能的進步保持聯(lián)系，意識到其潛在威脅，并經常修訂法規(guī)、框架和戰(zhàn)略，以確保公平、無風險和合乎道德的使用。

2021年，聯(lián)合國教科文組織的193個成員國通過了關于人工智能倫理的全球協(xié)議。人工智能是一個不斷發(fā)展的生態(tài)系統(tǒng)。