我們已經(jīng)開始習(xí)慣人工智能的存在，也可以看到人工智能對世界的影響是如何隨著生成式人工智能(GenAI)的火爆而增長的。人工智能多年來一直被用來幫助企業(yè)“猜你喜歡”，希望加快分析并做出更好、更快、更智能決策的企業(yè)越來越多。但如果人工智能在不知不覺中做出了糟糕的決定呢?

當(dāng)人工智能推薦一本你不感興趣的書或一種你討厭的蔬菜時(shí)，這并不是什么大不了的事。但是，當(dāng)涉及到投資者的財(cái)務(wù)指導(dǎo)或特色產(chǎn)品的新功能時(shí)，不正確的分析可能會導(dǎo)致一個(gè)糟糕的決定，影響企業(yè)的業(yè)績或聲譽(yù)，使用戶或企業(yè)都面臨風(fēng)險(xiǎn)或傷害。

這就提出了一個(gè)問題：我們真的能相信人工智能做出重要決策嗎?尤其是，隨著更復(fù)雜的深度學(xué)習(xí)(DL)和GenAI模型被訓(xùn)練和部署用于日常使用。

答案在于理解數(shù)據(jù)和數(shù)據(jù)質(zhì)量在機(jī)器學(xué)習(xí)生命周期中的關(guān)鍵作用。

數(shù)據(jù)質(zhì)量的影響

當(dāng)談到可信任人工智能時(shí)，用于推動其決策的數(shù)據(jù)質(zhì)量具有巨大意義。有缺陷的數(shù)據(jù)，無論是不完整的、不正確的還是有偏見的，都會扭曲人工智能預(yù)測的準(zhǔn)確性。在人工智能系統(tǒng)中依賴不可靠數(shù)據(jù)的后果可能會變得災(zāi)難性。

想象一下，你是一個(gè)尋求財(cái)務(wù)指導(dǎo)的投資者，求助于一個(gè)人工智能平臺來幫助你做出投資決策。這種人工智能依賴于歷史財(cái)務(wù)數(shù)據(jù)來分析市場趨勢，識別潛在機(jī)會，并提供建議。然而，如果人工智能使用的數(shù)據(jù)不完整或有偏見，也許是因?yàn)樗鼜奈赐耆傻较到y(tǒng)中，那么它提供的指導(dǎo)可能會有缺陷，導(dǎo)致你走上錯誤的投資道路。

比如，人工智能只能從有限的來源獲取財(cái)務(wù)數(shù)據(jù)，而忽略了某些部門或地理區(qū)域的關(guān)鍵信息。因此，人工智能的分析可能會忽視重大的市場變化或新興趨勢，使你無法利用有利可圖的投資機(jī)會。

此外，有偏見的數(shù)據(jù)對人工智能決策過程的不利影響。偏見可能滲透到數(shù)據(jù)收集方法中，或者是數(shù)據(jù)本身固有的，導(dǎo)致見解和建議出現(xiàn)偏差。例如，如果人工智能系統(tǒng)使用的財(cái)務(wù)數(shù)據(jù)主要代表特定的人口統(tǒng)計(jì)數(shù)據(jù)，或者未能考慮到各種經(jīng)濟(jì)因素，那么由此產(chǎn)生的投資建議可能無法反映更廣泛市場的現(xiàn)實(shí)。

僅僅依賴基于不完整或有偏見的數(shù)據(jù)的預(yù)測可能會導(dǎo)致誤導(dǎo)性的投資決策，對財(cái)務(wù)成功產(chǎn)生不利影響，阻礙業(yè)務(wù)增長。當(dāng)我們認(rèn)識到人工智能系統(tǒng)在訓(xùn)練和部署人工智能模型時(shí)所做的決策只能與可用數(shù)據(jù)一樣可靠時(shí)，數(shù)據(jù)質(zhì)量的重要性就變得顯而易見了。“垃圾進(jìn)，垃圾出”是永恒的經(jīng)典。

正如堅(jiān)實(shí)的基礎(chǔ)對建筑的結(jié)構(gòu)完整性至關(guān)重要一樣，可靠和高質(zhì)量的數(shù)據(jù)構(gòu)成了值得信賴的人工智能運(yùn)行的基石。正如受損的建筑材料或薄弱的基礎(chǔ)會危及結(jié)構(gòu)的穩(wěn)定性和安全一樣，有缺陷的數(shù)據(jù)也會破壞人工智能決策的準(zhǔn)確性和可靠性。

為了減輕這些風(fēng)險(xiǎn)，組織必須優(yōu)先考慮數(shù)據(jù)收集過程，以確保完整性、準(zhǔn)確性和無偏見。他們應(yīng)該努力收集多樣化和全面的數(shù)據(jù)集，這些數(shù)據(jù)集涵蓋了各個(gè)部門、人口統(tǒng)計(jì)和地理區(qū)域。采用數(shù)據(jù)驗(yàn)證技術(shù)，如交叉引用多個(gè)來源和采用數(shù)據(jù)清理算法，可以幫助識別和糾正錯誤，確保更準(zhǔn)確地表示現(xiàn)實(shí)。

穩(wěn)健模型的重要性

對數(shù)據(jù)質(zhì)量同樣至關(guān)重要的是用于使用數(shù)據(jù)進(jìn)行預(yù)測見解的模型。人工智能驅(qū)動決策的可靠性在很大程度上取決于這些模型的穩(wěn)健性、準(zhǔn)確性和透明度，以及使用正確的數(shù)據(jù)和數(shù)據(jù)集來構(gòu)建它們。

讓我們想象一下人工智能在醫(yī)療保健行業(yè)中被用來幫助醫(yī)生診斷疾病。該人工智能模型采用復(fù)雜的神經(jīng)網(wǎng)絡(luò)來分析患者癥狀并提供診斷建議。雖然神經(jīng)網(wǎng)絡(luò)在識別疾病方面可能表現(xiàn)出很高的準(zhǔn)確性，但它在解釋如何得出結(jié)論方面缺乏透明度。

如果你是一名醫(yī)生，使用這一預(yù)測來幫助診斷患者，你將能夠得到快速診斷，但不了解導(dǎo)致這一結(jié)論的因素。在沒有透明度的情況下，盲目信任人工智能變得風(fēng)險(xiǎn)巨大，因?yàn)樗赡軙鲆曣P(guān)鍵癥狀或無法考慮重要的醫(yī)療考慮。這些挑戰(zhàn)在高度監(jiān)管的行業(yè)中很常見，在這些行業(yè)中，信任和透明度是必不可少的。

另一方面，如果醫(yī)療AI工具使用了決策樹算法模型。決策樹以其可解釋性而聞名，因?yàn)樗鼈兲峁┝藳Q策過程的逐步分解。在這種情況下，當(dāng)人工智能系統(tǒng)推薦診斷時(shí)，你可以很容易地追蹤決策的路徑，了解哪些癥狀和因素導(dǎo)致了這個(gè)結(jié)論。這種透明度使醫(yī)生能夠?qū)θ斯ぶ悄艿慕ㄗh做出更明智的判斷。

再舉一個(gè)例子，想象一下你面前有兩個(gè)復(fù)雜的謎題;一個(gè)有明確的指示和透明的步驟，而另一個(gè)缺乏任何指導(dǎo)或解釋。在第一個(gè)謎題中，你可以很容易地理解邏輯進(jìn)展，使你能夠有效地解決它。然而，第二個(gè)難題會讓你感到困惑和不確定，很難相信自己的決定，也很難確定自己是否找到了正確的解決方案。猜測、假設(shè)和試錯成為決策過程的一部分。穩(wěn)健透明的模型使用戶能夠更好地理解人工智能的決策過程，從而對其建議灌輸更大的信心。

語義層的作用

語義層在創(chuàng)建一個(gè)通用數(shù)據(jù)層以提高人工智能決策的可信度方面發(fā)揮著至關(guān)重要的作用。它解決了數(shù)據(jù)定義不一致和缺乏上下文的挑戰(zhàn)，正如我們在上面的例子中看到的那樣，這可能會極大地破壞人工智能的利用價(jià)值和可信度。通過建立一個(gè)單一的真相來源，語義層可以確保所有人工智能應(yīng)用程序都在一個(gè)公共數(shù)據(jù)源中工作，該數(shù)據(jù)源可以查看數(shù)據(jù)經(jīng)過的每一步的轉(zhuǎn)換。

當(dāng)一個(gè)組織中的不同團(tuán)隊(duì)或個(gè)人使用不同的測量單位或?qū)?shù)據(jù)有不同的解釋時(shí)，可能會阻礙合作并導(dǎo)致相互矛盾的結(jié)論。語義層通過提供共享的理解來幫助克服這個(gè)問題。它捕捉數(shù)據(jù)中的關(guān)系、概念和上下文，從而實(shí)現(xiàn)一致的解釋和分析。通過對整個(gè)組織的數(shù)據(jù)有一個(gè)共同的理解，可以得出更值得信賴的結(jié)論，因?yàn)樗鼈兓谙嗤目煽啃畔碓础?/p>

語義層有助于確保數(shù)據(jù)得到準(zhǔn)確理解、解釋和一致使用，培養(yǎng)人們對人工智能系統(tǒng)見解的信任。

在人工智能中建立信任

真正的問題是：我們?nèi)绾未_保人工智能系統(tǒng)做出值得信賴的決策?

為了提高對人工智能的信任，組織必須優(yōu)先開發(fā)和利用具有穩(wěn)健性、準(zhǔn)確性和透明度的模型。這需要使用可解釋人工智能等技術(shù)，使模型的內(nèi)部工作變得可理解和可解釋。此外，組織可以采用模型評估方法，利用敏感性分析或性能指標(biāo)等技術(shù)來評估模型的可靠性和有效性。通過創(chuàng)建語義數(shù)據(jù)層，人工智能決策可以變得更加可靠、透明和知情，因?yàn)橛辛斯餐膩碓?。如果沒有這些舉措，人工智能將永遠(yuǎn)不會被視為可靠和值得信賴的決策伙伴。

除了仔細(xì)審查外，提出正確的問題對于建立與人工智能的信任至關(guān)重要。通過向任何人工智能提出相關(guān)詢問，我們可以確定其在代表我們做出關(guān)鍵決策時(shí)的可靠性。

以下是一些需要考慮的重要問題：

哪些數(shù)據(jù)被用來訓(xùn)練和指導(dǎo)人工智能?它是否完整、準(zhǔn)確、公正?

如何構(gòu)建用于數(shù)據(jù)分析的模型?它們是否準(zhǔn)確、穩(wěn)健和透明?

作為反饋回路的一部分，人工智能的決策與人類專家的決策相比如何?

只有確保數(shù)據(jù)完整、準(zhǔn)確、公正，并利用準(zhǔn)確、穩(wěn)健和透明的模型，我們才能真正開始相信人工智能會做出正確的決策。值得信賴的人工智能可以成為進(jìn)步的催化劑，但前提是我們必須采取必要的行動來幫助它發(fā)展。生成式人工智能只會放大這一挑戰(zhàn)，這就是為什么堅(jiān)實(shí)的數(shù)據(jù)基礎(chǔ)現(xiàn)在比以往任何時(shí)候都至關(guān)重要。