在打擊金融犯罪方面，存在的挑戰(zhàn)超出了僅僅阻止欺詐者或其他不良行為者的范圍。

一些正在推出的最新、先進(jìn)的技術(shù)通常有自己的特定問(wèn)題，在采用階段必須考慮這些問(wèn)題，以便在不受監(jiān)管影響的情況下成功打擊欺詐者。在欺詐檢測(cè)中，當(dāng)系統(tǒng)權(quán)重更大或缺少某些數(shù)據(jù)組或數(shù)據(jù)類別的表示時(shí)，可能會(huì)出現(xiàn)模型公平性和數(shù)據(jù)偏差。從理論上講，預(yù)測(cè)模型可能會(huì)錯(cuò)誤地將來(lái)自其他文化的姓氏與欺詐賬戶聯(lián)系起來(lái)，或者錯(cuò)誤地降低特定類型金融活動(dòng)在人群中的風(fēng)險(xiǎn)。

當(dāng)聲譽(yù)可能受到影響時(shí)，有偏見(jiàn)的人工智能系統(tǒng)可能會(huì)構(gòu)成嚴(yán)重威脅，并且當(dāng)可用數(shù)據(jù)不能代表人口或探索現(xiàn)象時(shí)就會(huì)發(fā)生。該數(shù)據(jù)不包括正確捕捉我們想要預(yù)測(cè)的現(xiàn)象的變量?；蛘?，數(shù)據(jù)可能包括人類產(chǎn)生的內(nèi)容，這些內(nèi)容可能包含對(duì)人群的偏見(jiàn)，由文化和個(gè)人經(jīng)驗(yàn)繼承，導(dǎo)致決策時(shí)出現(xiàn)扭曲。雖然起初數(shù)據(jù)可能看起來(lái)是客觀的，但它仍然是由人類收集和分析的，因此可能存在偏見(jiàn)。

雖然在補(bǔ)救人工智能系統(tǒng)中的歧視和不公平的危險(xiǎn)或永久解決構(gòu)建機(jī)器學(xué)習(xí)模型和使用中的公平和偏見(jiàn)緩解問(wèn)題時(shí)沒(méi)有靈丹妙藥，但這些問(wèn)題必須考慮到社會(huì)和商業(yè)原因。

在AI中做正確的事

解決基于人工智能的系統(tǒng)中的偏見(jiàn)不僅是正確的事情，而且對(duì)企業(yè)來(lái)說(shuō)也是一件聰明的事情——而且對(duì)企業(yè)領(lǐng)導(dǎo)者來(lái)說(shuō)風(fēng)險(xiǎn)很高。有偏見(jiàn)的人工智能系統(tǒng)可能會(huì)通過(guò)不公平地分配機(jī)會(huì)、資源、信息或服務(wù)質(zhì)量而導(dǎo)致金融機(jī)構(gòu)走上錯(cuò)誤的道路。它們甚至有可能侵犯公民自由，危害個(gè)人安全，或在被視為貶低或冒犯時(shí)影響一個(gè)人的福祉。

對(duì)于企業(yè)來(lái)說(shuō)，了解人工智能偏見(jiàn)的力量和風(fēng)險(xiǎn)非常重要。盡管該機(jī)構(gòu)通常不知道，但有偏見(jiàn)的基于人工智能的系統(tǒng)可能會(huì)使用有害的模型或數(shù)據(jù)，將種族或性別偏見(jiàn)暴露在貸款決策中。姓名和性別等信息可能成為以非法方式對(duì)申請(qǐng)人進(jìn)行分類和識(shí)別的代理。即使這種偏見(jiàn)是無(wú)意的，它仍然會(huì)因不遵守監(jiān)管要求而使組織面臨風(fēng)險(xiǎn)，并可能導(dǎo)致某些人群被不公平地拒絕貸款或信貸額度。

目前，組織沒(méi)有適當(dāng)?shù)拇胧﹣?lái)成功減輕AI系統(tǒng)中的偏見(jiàn)。但隨著人工智能越來(lái)越多地在企業(yè)中部署以告知決策，組織努力減少偏見(jiàn)至關(guān)重要，這不僅是出于道德原因，而且是為了遵守監(jiān)管要求并增加收入。

“公平意識(shí)”文化與實(shí)施

專注于公平意識(shí)設(shè)計(jì)和實(shí)施的解決方案將產(chǎn)生最有益的結(jié)果。提供者應(yīng)該有一種分析文化，將負(fù)責(zé)任的數(shù)據(jù)獲取、處理和管理視為算法公平的必要組成部分，因?yàn)槿绻斯ぶ悄茼?xiàng)目的結(jié)果是由有偏見(jiàn)、受損或傾斜的數(shù)據(jù)集生成的，受影響的各方將無(wú)法充分保護(hù)免受歧視性傷害。

以下是數(shù)據(jù)科學(xué)團(tuán)隊(duì)必須牢記的數(shù)據(jù)公平要素：

代表性：根據(jù)具體情況，數(shù)據(jù)樣本中弱勢(shì)群體或受法律保護(hù)的群體的代表性不足或過(guò)多可能會(huì)導(dǎo)致在訓(xùn)練模型的結(jié)果中系統(tǒng)性地使弱勢(shì)群體處于不利地位。為避免此類抽樣偏差，領(lǐng)域?qū)I(yè)知識(shí)對(duì)于評(píng)估收集或獲取的數(shù)據(jù)與要建模的基礎(chǔ)人群之間的擬合度至關(guān)重要。技術(shù)團(tuán)隊(duì)成員應(yīng)提供補(bǔ)救方法，以糾正抽樣中的代表性缺陷。

適合目的和充分性：了解收集的數(shù)據(jù)是否足以滿足項(xiàng)目的預(yù)期目的很重要。數(shù)據(jù)集不足可能無(wú)法公平地反映應(yīng)權(quán)衡的質(zhì)量，以產(chǎn)生與AI系統(tǒng)預(yù)期目的一致的合理結(jié)果。因此，具有技術(shù)和政策能力的項(xiàng)目團(tuán)隊(duì)成員應(yīng)合作確定數(shù)據(jù)量是否足夠且適合用途。

源完整性和測(cè)量準(zhǔn)確性：有效的偏差緩解始于數(shù)據(jù)提取和收集過(guò)程的一開(kāi)始。測(cè)量的來(lái)源和工具都可能將歧視性因素引入數(shù)據(jù)集中。為了確保歧視性的無(wú)害，數(shù)據(jù)樣本必須具有最佳的來(lái)源完整性。這涉及確?；虼_認(rèn)數(shù)據(jù)收集過(guò)程涉及適當(dāng)、可靠和公正的測(cè)量來(lái)源和穩(wěn)健的收集方法。

及時(shí)性和新近性：如果數(shù)據(jù)集包含過(guò)時(shí)的數(shù)據(jù)，則基礎(chǔ)數(shù)據(jù)分布的變化可能會(huì)對(duì)訓(xùn)練模型的泛化性產(chǎn)生不利影響。如果這些分布漂移反映了不斷變化的社會(huì)關(guān)系或群體動(dòng)態(tài)，那么這種關(guān)于基礎(chǔ)人口實(shí)際特征的準(zhǔn)確性損失可能會(huì)給人工智能系統(tǒng)帶來(lái)偏見(jiàn)。在防止歧視性結(jié)果時(shí)，應(yīng)仔細(xì)檢查數(shù)據(jù)集所有元素的及時(shí)性和新近性。

相關(guān)性、適當(dāng)性和領(lǐng)域知識(shí)：理解和使用最合適的數(shù)據(jù)來(lái)源和數(shù)據(jù)類型對(duì)于構(gòu)建強(qiáng)大且公正的人工智能系統(tǒng)至關(guān)重要。對(duì)潛在人口分布和項(xiàng)目預(yù)測(cè)目標(biāo)的扎實(shí)領(lǐng)域知識(shí)有助于選擇最佳相關(guān)測(cè)量輸入，從而有助于合理解決定義的解決方案。領(lǐng)域?qū)＜覒?yīng)與數(shù)據(jù)科學(xué)團(tuán)隊(duì)密切合作，以幫助確定最合適的測(cè)量類別和來(lái)源。

雖然基于AI的系統(tǒng)有助于決策自動(dòng)化流程并節(jié)省成本，但將AI作為解決方案的金融機(jī)構(gòu)必須保持警惕，以確保不會(huì)發(fā)生有偏見(jiàn)的決策。合規(guī)領(lǐng)導(dǎo)者應(yīng)與他們的數(shù)據(jù)科學(xué)團(tuán)隊(duì)保持同步，以確認(rèn)AI能力是負(fù)責(zé)任、有效且沒(méi)有偏見(jiàn)的。制定支持負(fù)責(zé)任人工智能的戰(zhàn)略是正確的做法，它還可能為遵守未來(lái)的人工智能法規(guī)提供一條途徑。