為AI提供正確的上下文可以提高準確

性并減少幻覺。

在所有關于人工智能如何徹底改變工作（使日常任務更高效、更可重復，并增加個人努力）的對話中，人們很容易得意忘形：人工智能不能做什么？

盡管它的名字叫生成式人工智能，但能夠創(chuàng)建圖像、代碼、文本、音樂等的人工智能，不能從無到有。AI 模型根據(jù)它們提供的信息進行訓練，對于大型語言模型 （LLM），這通常意味著大量文本。如果人工智能在準確、最新和組織良好的信息上接受訓練，它將傾向于以準確、最新和相關的答案做出回應。麻省理工學院的研究表明，將知識庫整合到 LLM 中往往會提高輸出并減少幻覺。這意味著人工智能和機器學習的進步，遠非取代對知識管理的需求，實際上使它變得更加重要。

品質(zhì)進，品質(zhì)出

在陳舊、不完整的信息上訓練的 LLM 容易產(chǎn)生“幻覺”，即不正確的結(jié)果，從稍微偏離基礎到完全不連貫。幻覺包括對問題的錯誤回答以及有關人物和事件的虛假信息。

“垃圾輸入，垃圾輸出”的經(jīng)典計算規(guī)則也適用于生成式人工智能。您的 AI 模型依賴于您提供的訓練數(shù)據(jù)。如果這些數(shù)據(jù)已經(jīng)過時、結(jié)構不良或漏洞百出，人工智能將開始發(fā)明誤導用戶的答案，并給您的組織帶來麻煩甚至混亂。

避免幻覺需要一套知識體系，即：

準確可信，信息質(zhì)量經(jīng)過知識淵博的用戶驗證

隨著新數(shù)據(jù)/邊緣案例的出現(xiàn)，保持最新且易于刷新

上下文，這意味著它捕獲了尋求和提供解決方案的上下文

持續(xù)改進和自我維持

支持討論和協(xié)作的知識管理 （KM） 方法可以提高知識庫的質(zhì)量，因為它允許您與同事合作審查 AI 的響應并改進提示結(jié)構以提高答案質(zhì)量。這種交互是人工智能中強化學習的一種形式：人類將他們的判斷應用于人工智能生成的輸出的質(zhì)量和準確性，并幫助人工智能（和人類）改進。

提出正確的問題

使用 LLM 時，查詢的結(jié)構會影響結(jié)果的質(zhì)量。這就是為什么提示工程（了解如何構建查詢以從 AI 中獲得最佳結(jié)果）正在成為一項關鍵技能，也是生成式 AI 可以幫助對話雙方的領域：提示和響應。

根據(jù) Gartner 報告《知識管理的解決方案路徑》（2023 年 6 月），“提示工程，即為 AI 制定指令或問題的行為，本身正迅速成為一項關鍵技能。以迭代、對話的方式與智能助手交互，將提高知識工作者指導人工智能完成知識管理任務的能力，并與人類同事分享所獲得的知識。

利用 AI 集中知識共享

獲取和分享知識對于知識管理實踐的蓬勃發(fā)展至關重要。AI 驅(qū)動的知識捕獲、內(nèi)容豐富和 AI 助手可以幫助您向整個組織介紹學習和知識共享實踐，并將其嵌入到日常工作流程中。

根據(jù) Gartner的知識管理解決方案路徑，“像 Stack Overflow for Teams 這樣的產(chǎn)品可以與 Microsoft Teams 或 Slack 集成，以提供具有持久知識存儲的問答論壇。用戶可以直接向社區(qū)發(fā)布問題。答案被投贊成票或反對票，最佳答案被固定為最高答案。所有已回答的問題都是可搜索的，并且可以像任何其他知識源一樣進行策劃。這種方法還有一個額外的優(yōu)勢，即使知識共享成為工作流程的核心。

Gartner 的另一份報告《評估生成式 AI如何改善開發(fā)人員體驗》（2023 年 6 月）建議組織“通過形成生成式 AI 增強開發(fā)的實踐社區(qū)，收集和傳播使用生成式 AI 工具的成熟實踐（例如快速工程技巧和代碼驗證方法）。該報告進一步建議組織“通過學習和應用組織批準的工具、用例和流程，確保您擁有成功使用生成式人工智能所需的技能和知識。

注意復雜性懸崖

生成式 AI 工具非常適合新開發(fā)人員和希望學習新技能或擴展現(xiàn)有技能的經(jīng)驗豐富的開發(fā)人員。但有一個復雜性懸崖：在某個點之后，人工智能處理問題及其解決方案的細微差別、相互依賴性和完整上下文的能力就會下降。

“LLM 非常擅長增強開發(fā)人員的能力，讓他們能夠做得更多、行動更快，”Google Cloud Duet 的產(chǎn)品經(jīng)理 Marcos Grappeggia 在最近一集的 Stack Overflow 播客中說。這包括測試和試驗超出舒適區(qū)的語言和技術。但Grappeggia警告說，LLM“并不是日常開發(fā)人員的一個很好的替代品......如果你不理解你的代碼，那仍然是失敗的關鍵。

這個復雜的懸崖是你需要人類的地方，他們具有原創(chuàng)思維的能力和行使經(jīng)驗判斷的能力。您的目標是制定知識管理戰(zhàn)略，通過在人造知識上提煉和驗證人工智能，利用人工智能的巨大力量。