自誕生以來，AI一直是一個強(qiáng)大的工具，通過自動化任務(wù)和簡化操作，構(gòu)建更好的技術(shù)，并使最終用戶體驗(yàn)更輕松和更個性化，幫助改善內(nèi)部運(yùn)營。雖然AI對社會的影響并不新鮮，但更先進(jìn)的AI解決方案的崛起引發(fā)了人們對這些技術(shù)將如何利用的擔(dān)憂。

AI的繁榮創(chuàng)造了對強(qiáng)大的AI治理的巨大需求。在宏偉的計(jì)劃中，AI治理是一個整體術(shù)語，對許多不同的群體可能意味著許多不同的事情，可能是因?yàn)榭梢?也應(yīng)該)實(shí)施的治理的多個層次。具體來說，AI治理可以分為三個層次：企業(yè)治理、用例治理、模型治理。由于治理的每一層對于任何企業(yè)的不同成員都有一個特定的目的，因此必須更詳細(xì)地檢查這三個治理級別。

治理的企業(yè)層面

在任何多層AI治理計(jì)劃中，第一個級別是企業(yè)級別，這一級別起著指導(dǎo)的作用，幫助所有從業(yè)者堅(jiān)持特定的、必要的道德和責(zé)任級別。每家公司可能都有自己專有的AI行為準(zhǔn)則，但它通常圍繞幾個關(guān)鍵原則。例如，萬事達(dá)卡建立了一套以三項(xiàng)核心原則為核心的AI行為準(zhǔn)則：包容性、可解釋性和責(zé)任感。核心原則可能有所不同，但對于構(gòu)建類似的基于價(jià)值觀的使命聲明的公司來說，這是一個很好的參考。

雖然使命聲明是重要的起點(diǎn)，但企業(yè)層面的治理不僅僅是文字，它們對于幫助企業(yè)在為時已晚之前為即將到來的AI法規(guī)做好準(zhǔn)備至關(guān)重要。在這一層面上，定義參與AI開發(fā)的每個成員的責(zé)任對于部署成功的實(shí)施程序至關(guān)重要。每個有效的AI治理計(jì)劃都明確定義了AI倫理、責(zé)任和安全的內(nèi)部政策，并制定了持續(xù)執(zhí)行這些政策的流程。

幸運(yùn)的是，企業(yè)在實(shí)施這些政策時不必從頭開始。現(xiàn)有的政策和框架，如NISTAI風(fēng)險(xiǎn)管理框架和歐盟AI法案，就企業(yè)如何建立成功的企業(yè)治理水平提供了明確的指導(dǎo)。例如，NIST框架的“治理”支柱列出了各種企業(yè)治理政策和流程，而歐盟AI法案包含了幾條概述AI治理的企業(yè)要求的條款。

治理的用例級別

AI治理的第二個級別側(cè)重于任何業(yè)務(wù)中AI的特定用例。用例級別的治理主要集中于確保AI的任何應(yīng)用程序及其對特定任務(wù)的使用都符合所有必要的治理標(biāo)準(zhǔn)，這是因?yàn)椴贿m當(dāng)?shù)厥褂肁I所產(chǎn)生的風(fēng)險(xiǎn)與它將如何應(yīng)用于任何企業(yè)的運(yùn)營密切相關(guān)。

AI模型可以用于許多不同的事情，這些用例可以分為兩個單獨(dú)的類別：低風(fēng)險(xiǎn)和高風(fēng)險(xiǎn)。例如，低風(fēng)險(xiǎn)用例可能是簡單的任務(wù)，比如總結(jié)會議筆記。相比之下，高風(fēng)險(xiǎn)用例，如匯總醫(yī)療患者記錄，涉及更敏感的信息，因此需要更多的審查。在這個階段，風(fēng)險(xiǎn)映射和緩解也是成功的關(guān)鍵，這通常依賴于法律和合規(guī)團(tuán)隊(duì)發(fā)揮主要作用，特別是在審查和仔細(xì)審查AI用例和預(yù)期目標(biāo)方面。

這一級別的治理也映射到總體企業(yè)級別的治理，因?yàn)檫@些法律和合規(guī)團(tuán)隊(duì)將需要確認(rèn)每個AI用例都符合監(jiān)管要求和參數(shù)。正如這些團(tuán)隊(duì)的參與可能暗示的那樣，用例級別的治理意味著企業(yè)必須仔細(xì)和勤奮地記錄低風(fēng)險(xiǎn)和高風(fēng)險(xiǎn)用例的幾件事，包括將AI用于特定任務(wù)的預(yù)期目標(biāo)、為什么AI是適當(dāng)?shù)睦碛?、特定于上下文的風(fēng)險(xiǎn)，以及降低整個企業(yè)中的風(fēng)險(xiǎn)的技術(shù)和非技術(shù)緩解策略。

模型級治理

最后也是最細(xì)粒度的級別是治理的模型級別。在這個階段，AI從業(yè)者將承擔(dān)主要責(zé)任，包括模型評估、數(shù)據(jù)準(zhǔn)確性測試以及進(jìn)行模型偏差和公平性評估。

顧名思義，模型級治理迎合了任何AI系統(tǒng)的實(shí)際技術(shù)功能，并確保它們滿足預(yù)期的公平、準(zhǔn)確和安全標(biāo)準(zhǔn)。更具體地說，負(fù)責(zé)管理治理模式級別的從業(yè)人員必須采取措施，考慮到保護(hù)私人信息，同時確認(rèn)不存在可能影響受保護(hù)或邊緣化群體的偏見。

在技術(shù)層面，治理的模型級別還必須持續(xù)測試模型，以防止模型漂移，當(dāng)模型的預(yù)測能力因外部環(huán)境的變化而降低時，模型漂移就會發(fā)生。模型漂移可能有幾個原因，比如模型沒有時間“趕上”的人口結(jié)構(gòu)變化。幸運(yùn)的是，盡管模型漂移和偏差可能會在人為監(jiān)督下發(fā)生，但治理的模型級別可以得到幫助準(zhǔn)確訓(xùn)練和評估數(shù)據(jù)集的技術(shù)解決方案的支持。

由于這種類型的治理具有高度集中的性質(zhì)，因此企業(yè)可能只有在某些時候才有可能實(shí)現(xiàn)特定的模型級別策略，尤其是在訪問諸如ChatGPT等公開可用的大型語言模型時。如果公司發(fā)現(xiàn)自己處于這種境地，他們將需要加倍管理他們可以控制的東西，例如用例和治理的企業(yè)級別。

AI治理不能再僅僅專注于評估ML模型和數(shù)據(jù)集，企業(yè)級、用例和模型級治理的組合將創(chuàng)建企業(yè)負(fù)責(zé)任地使用AI所需的整體治理模型。隨著監(jiān)管指導(dǎo)的繼續(xù)形成，企業(yè)可以采取行動建立他們的治理政策，為立法可能導(dǎo)致的任何徹底變化做好準(zhǔn)備，并對建設(shè)合規(guī)、道德和準(zhǔn)確的AI更有信心。