人臉識別技術(shù)在各行各業(yè)的巨大潛力幾乎是無法想象的。然而，在實現(xiàn)其復(fù)雜的應(yīng)用程序之前，需要解決其功能中常見的某些錯誤和一些道德方面的考慮。

一個準(zhǔn)確的人臉識別系統(tǒng)使用生物識別技術(shù)從照片或視頻中映射面部特征。它將信息與已知面孔的數(shù)據(jù)庫進行比較以找到匹配項。人臉識別可以幫助驗證一個人的身份，但它也會引發(fā)隱私問題。

幾十年前，我們無法預(yù)測面部識別會在未來成為我們生活中近乎不可或缺的一部分。從解鎖智能手機到進行在線或線下交易，這項技術(shù)已經(jīng)深深扎根于我們今天的日常生活中。

人臉識別系統(tǒng)是人工智能的計算機視覺和機器學(xué)習(xí)組件的應(yīng)用，它的工作方式如下：經(jīng)過訓(xùn)練的算法可以確定一個人面部的各種不同細節(jié)，比如他們眼睛之間的像素數(shù)或曲率，以及其他經(jīng)過邏輯解釋的細節(jié)，從而在系統(tǒng)中重建人臉。然后將該重新創(chuàng)建與存儲，在系統(tǒng)數(shù)據(jù)庫中的大量面孔進行比較。如如果算法檢測到與數(shù)據(jù)庫中存在的人臉相匹配，那么系統(tǒng)就會“識別”它，并執(zhí)行用戶的任務(wù)。

除了在幾秒內(nèi)完成整個過程外，今天的人臉識別系統(tǒng)即使在光線、圖像分辨率和視角不佳的情況下也能勝任工作。與其他人工智能技術(shù)一樣，人臉識別系統(tǒng)在用于各種目的時需要遵循一些道德原則。

這些規(guī)定包括：

1、人臉識別中的公正性

首先，面部識別設(shè)備的開發(fā)必須完全防止，或至少極大限度地減少基于種族、性別、面部特征、畸形或其他方面對任何人或群體的偏見。現(xiàn)在，有充分的證據(jù)表明，面部識別系統(tǒng)在其操作中不可能100%公平。因此，構(gòu)建支持該技術(shù)的系統(tǒng)的公司通常要花費數(shù)百個小時來消除系統(tǒng)中發(fā)現(xiàn)的所有偏見痕跡。

像微軟這樣的知名企業(yè)通常會從盡可能多的種族社區(qū)雇傭合格的專家。在他們的面部識別系統(tǒng)的研究、開發(fā)、測試和設(shè)計階段，多樣性使他們能夠創(chuàng)建大量的數(shù)據(jù)集來訓(xùn)練AI數(shù)據(jù)模型。雖然龐大的數(shù)據(jù)集減少了偏差，但多樣性也是象征性的。選擇來自世界各地的個人有助于反映現(xiàn)實世界中發(fā)現(xiàn)的多樣性。

為了消除面部識別系統(tǒng)的偏見，企業(yè)必須付出額外的努力。為了實現(xiàn)這一點，用于機器學(xué)習(xí)和標(biāo)記的數(shù)據(jù)集必須多樣化。重要的是，一個公平的面部識別系統(tǒng)的輸出質(zhì)量將非常高，因為它將在世界任何地方無縫工作，沒有任何偏見的元素。

為了確保面部識別系統(tǒng)的公平性，開發(fā)人員還可以在beta測試階段讓終端客戶參與進來。在真實場景中測試這樣一個系統(tǒng)的能力只會提高其功能的質(zhì)量。

2、關(guān)于AI內(nèi)部運作的開放性

在工作場所和網(wǎng)絡(luò)安全系統(tǒng)中使用面部識別系統(tǒng)的企業(yè)，需要了解機器學(xué)習(xí)信息存儲在哪里的所有詳細信息。此類企業(yè)在日常操作中實施技術(shù)之前，需要了解技術(shù)的局限性和能力。提供人工智能技術(shù)的公司必須對客戶完全透明地了解這些細節(jié)。此外，服務(wù)提供商還必須確保，客戶可以在任何地點使用他們的面部識別系統(tǒng)。系統(tǒng)中的任何更新必須在得到客戶的有效批準(zhǔn)后才能進行。

3、企業(yè)責(zé)任問題

綜上所述，人臉識別系統(tǒng)部署在多個領(lǐng)域。制造此類系統(tǒng)的企業(yè)必須對其負責(zé)，特別是在技術(shù)可能直接影響任何人或團體執(zhí)法、監(jiān)視的情況下。此類系統(tǒng)中的責(zé)任制意味著包含用例，以防止身體或基于健康的傷害、財務(wù)挪用或其他可能由系統(tǒng)引起的問題。為了將控制元素引入過程中，一個合格的個人負責(zé)企業(yè)中的系統(tǒng)，以做出衡量的和合乎邏輯的決策。除此之外，將面部識別系統(tǒng)納入日常運營的企業(yè)必須立即解決客戶對該技術(shù)的不滿情緒。

4、監(jiān)測前的同意和通知

在正常情況下，未經(jīng)個人、團體同意，面部識別系統(tǒng)不得用于窺探個人、團體或其他行為。某些機構(gòu)，如歐盟，有一套標(biāo)準(zhǔn)化的法律，以防止未經(jīng)授權(quán)的企業(yè)在理事機構(gòu)的管轄范圍內(nèi)監(jiān)視個人。擁有此類系統(tǒng)的企業(yè)必須遵守美國所有的數(shù)據(jù)保護和隱私法律。

5、合法監(jiān)控以避免侵犯人權(quán)

除非獲得國家政府或決定性管理機構(gòu)出于與國家安全，或其他重要情況相關(guān)的目的而授權(quán)，否則企業(yè)不能使用面部識別系統(tǒng)來監(jiān)控任何人或團體?；旧?，這項技術(shù)被嚴格禁止用于侵犯受害者的人權(quán)和自由。

盡管被編程為無一例外地遵循這些規(guī)定，但面部識別系統(tǒng)可能由于操作錯誤而導(dǎo)致問題。

與該技術(shù)相關(guān)的一些主要問題是：

1、購買時驗證錯誤

如上所述，面部識別系統(tǒng)被納入數(shù)字支付應(yīng)用程序，以便用戶可以使用該技術(shù)驗證交易。由于這種技術(shù)的存在，很有可能進行面部身份盜竊和借記卡欺詐等犯罪活動。顧客選擇面部識別系統(tǒng)是因為它為用戶提供了極大的便利。盡管人臉識別系統(tǒng)中存在安全協(xié)議，但人臉復(fù)制可能會導(dǎo)致資金挪用。

2、執(zhí)法應(yīng)用中的不準(zhǔn)確性

面部識別系統(tǒng)被用于在抓捕罪犯之前識別公開的罪犯。雖然該技術(shù)作為一個概念在執(zhí)法中無疑是有用的，但在其工作中存在一些明顯的問題。犯罪分子可以通過多種方式濫用這項技術(shù)。例如，有偏見的人工智能概念為執(zhí)法人員提供了不準(zhǔn)確的結(jié)果，因為系統(tǒng)有時無法區(qū)分有色人種。一般來說，這類系統(tǒng)是用包含白人男性圖像的數(shù)據(jù)集訓(xùn)練。因此，在識別來自其他種族的人時，該系統(tǒng)的工作方式是錯誤的。

有幾個例子，企業(yè)或公共機構(gòu)被指控使用先進的面部識別系統(tǒng)非法監(jiān)視平民。通過持續(xù)監(jiān)控個人收集的視頻數(shù)據(jù)可以用于多種不正當(dāng)?shù)哪康?。面部識別系統(tǒng)較大的缺點之一是它提供的輸出過于泛化。

例如，如果一個人被懷疑犯了重罪，他們的照片會被拍攝下來，并與幾個罪犯的照片一起運行，以檢查這個人是否有任何犯罪記錄。然而，將這些數(shù)據(jù)疊加在一起，意味著面部識別數(shù)據(jù)庫將保留該男子和經(jīng)驗豐富的重罪犯的照片。所以，盡管個人清白，他或她的隱私還是受到了侵犯。其次，盡管從各方面來看，這個人都是無辜的，但可能會被認為是一個壞人。

我們可以看到，與面部識別技術(shù)相關(guān)的主要問題和錯誤源于技術(shù)的缺乏進步，數(shù)據(jù)集的缺乏多樣性，以及企業(yè)對系統(tǒng)的低效處理。在我看來，AI及其應(yīng)用在現(xiàn)實需求中的應(yīng)用范圍是無限的，而人臉識別技術(shù)的風(fēng)險，通常發(fā)生在當(dāng)該技術(shù)的工作方式與實際需求不同時。

在沃卡惠看來，隨著未來技術(shù)的進一步發(fā)展，與技術(shù)相關(guān)的問題將會得到解決。人工智能算法中與偏見相關(guān)的問題終將會解決。然而，為了讓該技術(shù)在不違反任何道德規(guī)范的情況下完美運行，企業(yè)必須對此類系統(tǒng)保持嚴格的治理水平。通過更大程度的治理，人臉識別系統(tǒng)的錯誤可以在未來得到解決。因此，必須對此類系統(tǒng)的研究、開發(fā)和設(shè)計進行改進，以實現(xiàn)積極的解決方案。