克服“大模型幻覺” 知識圖譜融合大模型應用平臺發布
時間：2023-09-09 04:31:27
【資料圖】
中新網北京9月8日電 (楊宏偉)8日，中國工程院院士、清華大學計算機系教授、海致科技首席科學家鄭緯民在北京演示發布了由海致科技與高性能圖計算院士工作站共同開發的“Atlas LLM知識圖譜與大模型融合應用平臺”。
該平臺面向廣大B端用戶，運用知識圖譜這項人工智能基礎技術，幫助大模型在企業級和工業界應用中克服“幻覺”，實現基于行業與場景的精準推演。該產品目前已經在能源、金融、政務等領域的場景中進行部署和應用，力圖打通通用人工智能進入B端和工業應用的“最后一公里”。
大語言模型(LLM)所表現出的跨領域通用性、快速自主學習和自我改進的能力無疑是革命性的。但由于它的基本工作方式是分析文本中的詞匯、句法結構、語義信息等，并捕捉它們之間的模式和概率分布，因此，它更傾向于基于統計規律生成回答，而非進行深入的邏輯推理或形成高級的認知能力。
另外，它在生成文本時可能會受限于訓練數據中存在的偏見和誤導性信息，在某些情況下可能會產生不準確或不合理的回答。對于這種基于技術特征產生的瑕疵，人們將其形象比喻為“大模型幻覺”，這也是以大模型為代表的通用人工智能進入嚴謹B端應用的最大挑戰。
知識圖譜是另一種被廣泛應用的人工智能基礎技術，通過對語義網絡進行建模，以結構化的形式描述客觀世界中實體及關系，被廣泛應用于知識推理。基于知識圖譜的知識推理在離散符號表示的基礎上，通過推理路徑、邏輯規則等輔助手段，對推理過程進行解釋，為實現“可解釋人工智能”提供了重要途徑。
“當大模型從C端走向B端，它就像從玩具走向工具，而工具的精確性至關重要。”鄭緯民在接受記者采訪時表示，“知識圖譜作為更加類腦的人工智能工具，其精確的知識推導能力就可以跟大模型構成非常好的相互補充，反過來，大模型的快速學習能力，對于知識圖譜的知識生成也產生了很好的促進。"
海致科技CTO楊娟博士介紹說，海致 Atlas LLM大模型融合應用平臺有三個非常獨特的定位：一是在全過程實現了知識圖譜與大模型的交互，有效克服大模型幻覺對工業應用的干擾；二是更好管理了客戶已有的豐富的數據資產，將其與大模型成果統一整理，避免重復造輪子，使得計算更高效，應用更精確；三是能夠幫助客戶切換和靈活應用不同的開源大模型，實現更高性價比的場景應用。
海致科技高級副總裁瞿珂介紹稱，通過大模型極大地提高知識抽取和融合的過程效率，一方面，通過大模型對故障設備及關聯量測值的快速提取，幫助知識圖譜完成特征圖的快速構建，提高效率；另一方面，也可以通過業務專家對大模型自動生成的特征圖進行更為高效的校驗，固化和校準故障特征的經驗知識，確保質量。”
