麻省理工AI實(shí)驗(yàn)室的科研人員近期發(fā)表了一篇論文，意在詰責(zé)在某些場(chǎng)景下應(yīng)用選擇性回歸的行為，原因是這種技術(shù)會(huì)降低數(shù)據(jù)集中代表性不足的群體模型的整體性能。

這些代表性不足的群體通常是女性和有色人種，這種對(duì)他們的忽視招致了一些有關(guān)AI種族主義和性別歧視的報(bào)道。在一個(gè)賬戶中，用于風(fēng)險(xiǎn)評(píng)估的AI錯(cuò)誤地將黑人囚犯標(biāo)記為白人囚犯的兩倍。在另一個(gè)案例中，沒(méi)有任何背景的男性照片被認(rèn)定為醫(yī)生和家庭主婦的比例高于女性。

通過(guò)選擇性回歸，AI模型能對(duì)每個(gè)輸入做出兩個(gè)選擇：預(yù)測(cè)或棄權(quán)。只有在對(duì)決策有信心的情況下，該模型才會(huì)做出預(yù)測(cè)，在幾次測(cè)試中，通過(guò)排除無(wú)法正確評(píng)估的輸入來(lái)提高模型的性能。

然則，當(dāng)輸入被刪除時(shí)，它會(huì)放大數(shù)據(jù)集中已經(jīng)存在的偏見(jiàn)。一旦人工智能模型被部署到現(xiàn)實(shí)生活中，這將招致代表性不足的群體進(jìn)一步不準(zhǔn)確，原因是它無(wú)法像在開(kāi)發(fā)過(guò)程中那樣刪除或拒絕代表性不足的群體。最終希望確保以明智的方式考慮跨組的錯(cuò)誤率，而不是單單最小化模型的一些廣泛的錯(cuò)誤率。

麻省理工學(xué)院的科研人員還引入了一種新技術(shù)，意在提高模型在每個(gè)子組中的模型性能。這種技術(shù)被稱為單調(diào)選擇性風(fēng)險(xiǎn)，一種模型沒(méi)有棄權(quán)，而是包括種族和性別等敏感屬性，而另一種則不包括。同時(shí)，兩個(gè)模型都做出決策，沒(méi)有敏感數(shù)據(jù)的模型被用作數(shù)據(jù)集中偏差的校準(zhǔn)。

為這個(gè)特定問(wèn)題提出正確的公平概念是一項(xiàng)挑戰(zhàn)。不過(guò)通過(guò)執(zhí)行這個(gè)標(biāo)準(zhǔn)，單調(diào)的選擇風(fēng)險(xiǎn)，我們可以確保當(dāng)減少覆蓋范圍時(shí)，模型性能事實(shí)上在所有子組中都變得更好。

當(dāng)使用醫(yī)療保險(xiǎn)數(shù)據(jù)集和犯罪數(shù)據(jù)集進(jìn)行測(cè)試時(shí)，新技術(shù)能夠降低代表不足的群體的錯(cuò)誤率，同時(shí)不明顯影響模型的整體性能?？蒲腥藛T打算將這項(xiàng)技術(shù)應(yīng)用到新的應(yīng)用中，譬如房?jī)r(jià)、學(xué)生平均學(xué)分績(jī)點(diǎn)和貸款利率，看看它能否用于其他任務(wù)。?