無論是預(yù)測消費(fèi)者的購物偏好、指導(dǎo)軍事決策、還是提供對于金融犯罪活動(dòng)的獨(dú)特見解，AI工具的種種新應(yīng)用幾乎每天都會(huì)登上報(bào)紙頭條。不同規(guī)模的企業(yè)正努力擴(kuò)張并鋪開自身AI能力，希望更好地服務(wù)客戶并提高自身運(yùn)營效率。

雖然AI工具的普及將對企業(yè)產(chǎn)生積極影響，但組織也必須了解具體技術(shù)實(shí)施所帶來的潛在風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)包括隱私與商業(yè)機(jī)密威脅、由大語言模型因“幻覺”生成的虛假信息，以及刻意為復(fù)雜的規(guī)?；W(wǎng)絡(luò)攻擊/武器化應(yīng)用輸出的錯(cuò)誤信息。再有，AI工具還可能受到訓(xùn)練數(shù)據(jù)的影響而出現(xiàn)分析偏差或模型失真，進(jìn)而給出不當(dāng)、不正確或無效的響應(yīng)。

面對這些挑戰(zhàn)，最直接的解決方案自然在于嚴(yán)格落實(shí)合規(guī)。合規(guī)性對于保障技術(shù)效率提升，特別是發(fā)現(xiàn)并解決與數(shù)據(jù)隱私/安全相關(guān)的潛在法律/監(jiān)管風(fēng)險(xiǎn)方面至關(guān)重要。Zoom此前就曾試圖修改其使用條款以獲準(zhǔn)捕捉更多用戶數(shù)據(jù)，此事也讓我們意識(shí)到即使單純是為了對AI模型做適度調(diào)整，這種數(shù)據(jù)收集行為也可能受到市場的嚴(yán)厲批評、必須加以謹(jǐn)慎對待。

但創(chuàng)新和發(fā)明的步伐一刻不停，AI領(lǐng)域的監(jiān)管體系也尚未完全定型，所以企業(yè)在AI治理與合規(guī)框架設(shè)計(jì)方面仍面臨著艱巨的挑戰(zhàn)。歐盟委員會(huì)已經(jīng)提出歐盟（EU）AI法案，也成為首個(gè)關(guān)于AI應(yīng)用的立法。歐盟在推行基于風(fēng)險(xiǎn)的治理模型方面一直處于領(lǐng)先地位，也為未來的AI法規(guī)樹立了先例。歐盟認(rèn)為應(yīng)當(dāng)根據(jù)AI系統(tǒng)的類型對風(fēng)險(xiǎn)進(jìn)行價(jià)值判斷，再依據(jù)風(fēng)險(xiǎn)設(shè)定不同程度的合規(guī)性要求。盡管美國目前還沒有統(tǒng)一的監(jiān)管框架，但紐約等多個(gè)州已經(jīng)開始制定規(guī)則，希望約束在招聘流程中對AI工具的使用方式。鑒于不少合規(guī)團(tuán)隊(duì)缺乏對組織內(nèi)AI技術(shù)實(shí)際使用情況的全面了解，后續(xù)出臺(tái)的法規(guī)可能會(huì)調(diào)整合規(guī)職能?？偠灾?，隨著AI技術(shù)的不斷進(jìn)步，合規(guī)性保障必然成為其前提與基石，確保席卷全球的AI浪潮始終受到道德與法律的引導(dǎo)。

為了保障這種合規(guī)性和有效性，合規(guī)團(tuán)隊(duì)在制定相關(guān)計(jì)劃、幫助企業(yè)解決AI應(yīng)用問題時(shí)，應(yīng)始終牢記以下五大基本原則。

1.建立適宜的合規(guī)團(tuán)隊(duì)，應(yīng)對日益增長的現(xiàn)實(shí)挑戰(zhàn)

合規(guī)團(tuán)隊(duì)往往身兼多職，需要在整個(gè)組織內(nèi)擔(dān)任專家。他們必須努力確保自身不會(huì)與其他部門相隔離，同時(shí)積極融入整個(gè)組織結(jié)構(gòu)，從而保持全面的視角——特別是保證所制定和實(shí)施的整體AI政策適應(yīng)各部門的具體現(xiàn)實(shí)。也就是說，合規(guī)團(tuán)隊(duì)必須重視多元化，應(yīng)由具備技術(shù)和非技術(shù)背景的專家組成，共同評估AI工具的潛在問題。合規(guī)團(tuán)隊(duì)還必須擁有資源以提出關(guān)于AI模型和測試的正確問題，而不應(yīng)僅依靠業(yè)務(wù)團(tuán)隊(duì)來完成這些工作。

2.維護(hù)好工具庫存

合規(guī)管理者必須明確了解整個(gè)公司內(nèi)所使用的AI技術(shù)清單，具體包括公司內(nèi)部使用的工具和面向客戶的任務(wù)處理方案。只有了解到員工正在使用哪些工具，合規(guī)團(tuán)隊(duì)才能更好地評估這些技術(shù)帶來的助益和風(fēng)險(xiǎn)。也正因?yàn)槿绱耍覀儾庞斜匾诤弦?guī)團(tuán)隊(duì)中引入來自各個(gè)業(yè)務(wù)部門的成員。在可能的情況下，合規(guī)團(tuán)隊(duì)還應(yīng)參與到整個(gè)組織的工具選擇流程當(dāng)中。某些工具在設(shè)計(jì)時(shí)可能會(huì)考慮到隱私、數(shù)據(jù)及其他保護(hù)性需求，而合規(guī)團(tuán)隊(duì)正是評估這些保護(hù)措施是否充分和有效的最佳人選。

3.實(shí)施強(qiáng)有力且明確的政策

合規(guī)團(tuán)隊(duì)?wèi)?yīng)確保針對公司內(nèi)的AI應(yīng)用制定統(tǒng)一政策。如果缺少這些政策，工作態(tài)度積極的員工很可能會(huì)自行選擇有助于提高工作效率的AI工具、并直接拿來使用，絲毫沒有意識(shí)到自己正在將商業(yè)機(jī)密或代碼暴露給AI大語言模型。三星公司的工程師就曾犯下這類錯(cuò)誤，他們不慎向ChatGPT提交了機(jī)密代碼。如果沒有適當(dāng)?shù)姆雷o(hù)措施，在辦公環(huán)境內(nèi)不受監(jiān)管地使用AI可能會(huì)給企業(yè)帶來災(zāi)難性影響，最終引發(fā)不必要的聲譽(yù)損害。而通過實(shí)施可接受的使用策略以指定必要的AI類型、可以共享哪些信息以及如何使用/驗(yàn)證這些信息內(nèi)容，合規(guī)團(tuán)隊(duì)將幫助整個(gè)組織緩解潛在的AI相關(guān)風(fēng)險(xiǎn)。

4.驗(yàn)證與測試工具

整個(gè)組織中使用的任何AI工具，都必須由熟悉情況的專業(yè)合規(guī)團(tuán)隊(duì)進(jìn)行驗(yàn)證和測試。這方面測試需要對各類AI模型的幾大關(guān)鍵情況做出審查：

模型托管在哪里？數(shù)據(jù)如何受到保護(hù)？

誰在訓(xùn)練模型，又是如何選擇訓(xùn)練數(shù)據(jù)的？

當(dāng)前在實(shí)行哪些保護(hù)措施，以防止機(jī)密及/或受保護(hù)的數(shù)據(jù)被輸入至AI模型當(dāng)中？

對AI模型的訪問由誰/如何加以控制？

是否對模型進(jìn)行過偏差測試？

5.強(qiáng)制在合規(guī)計(jì)劃中貫徹標(biāo)準(zhǔn)

最后，公司應(yīng)確保其合規(guī)計(jì)劃貫徹上述標(biāo)準(zhǔn)，確保有適當(dāng)?shù)目刂拼胧┮跃S持約束能力，同時(shí)了解誰有權(quán)訪問實(shí)際使用到的信息。例如，不少律師事務(wù)所正在開發(fā)用于從博文和網(wǎng)上資料中提取信息的AI工具，但同時(shí)又要求該工具不得直接提取或使用客戶數(shù)據(jù)。這類案例就必須嚴(yán)加監(jiān)控以避免發(fā)生濫用。

在《歐盟AI法案》這份AI先驅(qū)性監(jiān)管政策的指引下，合規(guī)團(tuán)隊(duì)?wèi)?yīng)當(dāng)考慮到世界各地即將出臺(tái)的其他立法將如何影響某些AI工具在未來的使用。只有建立起一支既熟悉技術(shù)功能和用途、又了解最新法規(guī)的合規(guī)團(tuán)隊(duì)，組織才能在遵守合規(guī)要求的同時(shí)遏制潛在風(fēng)險(xiǎn)、發(fā)揮AI潛力、釋放創(chuàng)新能量。