基于文本的生成人工智能工具能夠以驚人的速度完成高級(jí)寫作和通信任務(wù)，引起了公司和消費(fèi)者的共鳴。但實(shí)現(xiàn)這些令人印象深刻的功能的幕后流程可能會(huì)給敏感的政府監(jiān)管行業(yè)（如保險(xiǎn)、金融或醫(yī)療保健）帶來風(fēng)險(xiǎn)，因?yàn)樵诓恢?jǐn)慎行事的情況下利用生成式人工智能。

一些最具說明性的例子可以在醫(yī)療保健行業(yè)找到。

此類問題通常與用于訓(xùn)練大型語言模型 (LLM) 的廣泛且多樣化的數(shù)據(jù)集有關(guān)，大型語言模型是基于文本的生成人工智能工具用來執(zhí)行高級(jí)任務(wù)的模型。如果沒有程序員明確的外部干預(yù)，這些法學(xué)碩士往往會(huì)從互聯(lián)網(wǎng)上的各種來源不加區(qū)別地抓取數(shù)據(jù)，以擴(kuò)展他們的知識(shí)庫。

這種方法最適合低風(fēng)險(xiǎn)的面向消費(fèi)者的用例，其中的最終目標(biāo)是準(zhǔn)確地引導(dǎo)客戶獲得所需的產(chǎn)品。然而，大型數(shù)據(jù)集和人工智能模型生成輸出的混亂路徑越來越模糊了醫(yī)院和醫(yī)療保健提供者追蹤和防止?jié)撛阱e(cuò)誤所需的可解釋性。

在這種情況下，可解釋性是指理解任何給定法學(xué)碩士邏輯路徑的能力。希望采用輔助生成人工智能工具的醫(yī)療保健專業(yè)人員必須有辦法了解他們的模型如何產(chǎn)生結(jié)果，以便患者和工作人員在整個(gè)決策過程中擁有完全的透明度。換句話說，在像醫(yī)療保健這樣危及生命的行業(yè)中，對(duì)于專業(yè)人士來說，曲解用于訓(xùn)練人工智能工具的數(shù)據(jù)的風(fēng)??險(xiǎn)太大了。

值得慶幸的是，有一種方法可以繞過生成式人工智能的可解釋性難題——它只需要更多的控制和關(guān)注。

神秘與懷疑

在生成式人工智能中，理解法學(xué)碩士如何從 A 點(diǎn)（輸入）到 B 點(diǎn)（輸出）的概念比沿著更多設(shè)定模式運(yùn)行的非生成算法要復(fù)雜得多。

生成式人工智能工具在從輸入到輸出的過程中建立無數(shù)的連接，但對(duì)于外部觀察者來說，它們?nèi)绾我约盀楹谓⑷魏谓o定的一系列連接仍然是一個(gè)謎。由于無法了解人工智能算法所采用的“思維過程”，人類操作員缺乏徹底的方法來調(diào)查其推理并追蹤潛在的不準(zhǔn)確之處。

此外，機(jī)器學(xué)習(xí)算法使用的不斷擴(kuò)展的數(shù)據(jù)集使可解釋性進(jìn)一步復(fù)雜化。數(shù)據(jù)集越大，系統(tǒng)就越有可能從相關(guān)和不相關(guān)的信息中學(xué)習(xí)，并產(chǎn)生“人工智能幻覺”，即偏離外部事實(shí)和上下文邏輯的謊言，無論多么令人信服。

在醫(yī)療保健行業(yè)，這些類型的缺陷結(jié)果可能會(huì)引發(fā)一系列問題，例如誤診和不正確的處方。除了道德、法律和財(cái)務(wù)后果之外，此類錯(cuò)誤很容易損害醫(yī)療保健提供者及其所代表的醫(yī)療機(jī)構(gòu)的聲譽(yù)。

因此，盡管它有潛力加強(qiáng)醫(yī)療干預(yù)、改善與患者的溝通并提高運(yùn)營效率，但醫(yī)療保健中的生成式人工智能仍然受到懷疑，這是正確的——55% 的臨床醫(yī)生不相信它已經(jīng)準(zhǔn)備好用于醫(yī)療用途，58% 的臨床醫(yī)生不信任完全是這樣。然而，醫(yī)療保健組織正在積極推進(jìn)，其中 98% 的組織正在整合或規(guī)劃生成式人工智能部署策略，以試圖抵消該行業(yè)持續(xù)勞動(dòng)力短缺的影響。

控制源頭

在當(dāng)前的消費(fèi)者環(huán)境中，醫(yī)療保健行業(yè)經(jīng)常陷入困境，這種環(huán)境重視效率和速度，而不是確保鐵定的安全措施。最近關(guān)于培訓(xùn)法學(xué)碩士的近乎無限的數(shù)據(jù)抓取陷阱的新聞，導(dǎo)致版權(quán)侵權(quán)訴訟，使這些問題成為人們關(guān)注的焦點(diǎn)。一些公司還面臨指控，稱公民的個(gè)人數(shù)據(jù)被挖掘來訓(xùn)練這些語言模型，這可能違反隱私法。

因此，高度監(jiān)管行業(yè)的人工智能開發(fā)人員應(yīng)該對(duì)數(shù)據(jù)源進(jìn)行控制，以限制潛在的錯(cuò)誤。也就是說，優(yōu)先從受信任的、經(jīng)過行業(yè)審查的來源提取數(shù)據(jù)，而不是在未經(jīng)明確許可的情況下隨意抓取外部網(wǎng)頁。對(duì)于醫(yī)療保健行業(yè)來說，這意味著限制常見問題解答頁面、CSV 文件和醫(yī)療數(shù)據(jù)庫以及其他內(nèi)部來源的數(shù)據(jù)輸入。

如果這聽起來有些限制，請嘗試在大型衛(wèi)生系統(tǒng)的網(wǎng)站上搜索服務(wù)。美國醫(yī)療機(jī)構(gòu)在其平臺(tái)上發(fā)布數(shù)百甚至數(shù)千個(gè)信息頁面；大多數(shù)都埋得很深，患者永遠(yuǎn)無法真正接觸到它們。基于內(nèi)部數(shù)據(jù)的生成式人工智能解決方案可以方便、無縫地將這些信息傳遞給患者。這對(duì)各方來說都是雙贏的，因?yàn)樾l(wèi)生系統(tǒng)最終從這些內(nèi)容中看到了投資回報(bào)，患者也可以立即輕松地找到他們需要的服務(wù)。

受監(jiān)管行業(yè)中的生成式人工智能的下一步是什么？

醫(yī)療保健行業(yè)將從多種方面受益于生成式人工智能。

例如，考慮一下最近困擾美國醫(yī)療保健行業(yè)的普遍倦怠——預(yù)計(jì)到 2025 年，接近 50%的勞動(dòng)力將辭職。由人工智能驅(qū)動(dòng)的生成式聊天機(jī)器人可以幫助減輕大部分工作量，并保留過度擴(kuò)張的患者訪問團(tuán)隊(duì)。

在患者方面，生成式人工智能有潛力改善醫(yī)療保健提供商的呼叫中心服務(wù)。人工智能自動(dòng)化能夠通過各種聯(lián)系渠道解決廣泛的詢問，包括常見問題解答、IT 問題、藥品補(bǔ)充和醫(yī)生轉(zhuǎn)介。除了等待等待帶來的挫敗感之外，只有大約一半的美國患者在第一次通話時(shí)成功解決了他們的問題，導(dǎo)致放棄率很高并且獲得護(hù)理的機(jī)會(huì)受到影響。由此產(chǎn)生的低客戶滿意度給該行業(yè)帶來了進(jìn)一步采取行動(dòng)的壓力。

為了使該行業(yè)真正受益于生成式人工智能的實(shí)施，醫(yī)療保健提供者需要促進(jìn)其法學(xué)碩士訪問的數(shù)據(jù)的有意重組。