中關(guān)村科金切入知識助手場景，推動大模型應(yīng)用落地

　　數(shù)字時代，以大模型為代表的新一代人工智能作為國家重大戰(zhàn)略需求，是支撐并強化更高水平人機智能協(xié)同的關(guān)鍵技術(shù)方向。特別地，大模型在數(shù)據(jù)、信息、知識、智慧的跨鏈增值上，已呈現(xiàn)“智能涌現(xiàn)”的規(guī)?；瘍?yōu)勢，并且這些功能可以輔助并強化人類工作的知識性助益。基于大模型的知識助手，是當前商業(yè)價值最大化而潛在風(fēng)險最小化的大模型落地場景，能夠廣泛提升人與AI應(yīng)用協(xié)同工作的體驗與效率，實現(xiàn)工作效益的切實變革。

　　北京中關(guān)村科金技術(shù)有限公司（簡稱“中關(guān)村科金”），已實現(xiàn)大模型知識助手在企服賽道的成功切入。中關(guān)村科金通過自主研發(fā)的領(lǐng)域大模型、大數(shù)據(jù)智能搜索、多模態(tài)文檔解析等關(guān)鍵技術(shù)，在知識問答、知識構(gòu)建、知識歸納、知識推薦等核心場景，實現(xiàn)高效率、低成本、規(guī)?；膹娙斯ぶ悄軇?chuàng)新應(yīng)用，打通企業(yè)知識應(yīng)用的“最后一公里”。

　　一、大模型時代下的新型人機協(xié)同，知識助手成功開啟商業(yè)藍海

　　當前，以大模型為代表的通用人工智能正在飛速演進，正在成為重組數(shù)據(jù)要素資源、重塑人機協(xié)同新型生產(chǎn)關(guān)系的關(guān)鍵力量。較短時間內(nèi)，基礎(chǔ)大模型的研究和發(fā)布呈蓬勃發(fā)展態(tài)勢，接下來將進一步呈現(xiàn)商業(yè)落地的競速比拼。

　　然而，大模型的落地時間表還與具體場景要求息息相關(guān)。大模型的商業(yè)化變現(xiàn)仍面臨幻覺傾向、數(shù)據(jù)偏向、準確率不足等挑戰(zhàn)，需根據(jù)具體商用場景甄別實際風(fēng)險，從而制定相關(guān)技術(shù)路線和制度規(guī)范體系。

　　根據(jù)落地場景的容錯性和通用性要求，大模型知識助手將率先開啟商業(yè)藍海。具體而言，可以按照容錯性、通用性兩個維度將應(yīng)用場景劃分為以下四個象限（如圖1所示）。其中，服務(wù)企業(yè)內(nèi)部員工的知識助手，既具備專業(yè)性、又具有較高的容錯性，是短時間內(nèi)大模型技術(shù)落地應(yīng)用的最佳切入點。

圖1：應(yīng)用場景劃分

　　二、聚焦效率與體驗，大模型知識助手已成三大應(yīng)用模式

　　基于大模型的知識助手，能夠提供面向搜索的精準問答，從而打造企業(yè)知識應(yīng)用的新范式。尤其是，對比傳統(tǒng)企業(yè)知識庫、QA機器人等傳統(tǒng)知識管理手段，大模型知識助手能夠帶來知識歸納、構(gòu)建、問答、推薦等全流程效率和體驗變革。一方面降低知識歸納和構(gòu)建過程的成本，特別是現(xiàn)有信息抽取模型技術(shù)的大量標注、定制化開發(fā)模型時間長、純?nèi)斯た偨Y(jié)的私域數(shù)據(jù)規(guī)模太大等難題；另一方面提升服務(wù)問答和推薦環(huán)節(jié)的問題覆蓋范圍，避免語義理解環(huán)節(jié)的匹配度低、無法覆蓋長尾等問題。

圖2：傳統(tǒng)知識庫架構(gòu)

　　大模型知識助手，可以由淺至深分為三種應(yīng)用模式，如圖3所示：

　　一是“通用大模型+提示工程”。對于知識總量有限、專業(yè)性要求不高的企業(yè)，可以直接使用通用大模型，針對企業(yè)具體的場景需求，由業(yè)務(wù)專家探索出提示詞，此時企業(yè)需要的是一套靈活好用的提示詞管理工具。

　　二是“通用大模型+領(lǐng)域知識庫+提示工程”。對于長尾碎片知識（如SKU）較多的企業(yè)，需要在通用大模型的基礎(chǔ)上，外掛領(lǐng)域知識庫，針對具體場景、企業(yè)特有的問題可以讓大模型去知識庫里找答案，最后再在提示詞的引導(dǎo)與約束下返回輸出結(jié)果。

　　三是“領(lǐng)域大模型+領(lǐng)域知識庫+提示工程”。對于領(lǐng)域常識總量大的企業(yè)，需要構(gòu)建企業(yè)專屬的領(lǐng)域大模型，將領(lǐng)域里的通識輸入到大模型的“大腦”里，既保持通用的常識和推理，又具備領(lǐng)域內(nèi)的專業(yè)知識和技能，讓大模型由本科生變成領(lǐng)域?qū)＜摇?br />

圖3：大模型知識助手的三種模式與四項挑戰(zhàn)

　　目前，中關(guān)村科金基于領(lǐng)域大模型的知識助手產(chǎn)品已在和諾亞財富的合作中得以應(yīng)用。中關(guān)村科金通過融合自研的金融領(lǐng)域大模型、智能客服等人工智能技術(shù)，為諾亞財富打造的智能知識庫，具備多模態(tài)文檔分析、QA問答對自動抽取、知識內(nèi)容自動標簽化處理能力。通過集成諾亞財富的企業(yè)微信和旗下財富管理平臺iNoahAPP應(yīng)用，為其員工和用戶提供基于企業(yè)知識文檔的智能問答查詢功能。通過大模型技術(shù)為智能客服產(chǎn)品賦能，大幅提升客服系統(tǒng)問答意圖識別準確率和回復(fù)準確率，預(yù)期后期可減少70%以上的系統(tǒng)運營工作，有效幫助企業(yè)降本增效。

　　三、風(fēng)險與價值的雙向平衡，核心攻關(guān)四大技術(shù)能力

　　中關(guān)村科金憑借領(lǐng)先的AI技術(shù)實力、系統(tǒng)的解決方案能力、深度的行業(yè)服務(wù)經(jīng)驗，研發(fā)與企業(yè)用例的整體風(fēng)險容忍度相一致的知識助手，并且完善相關(guān)技術(shù)路線和參與共建行業(yè)制度規(guī)范以減輕相應(yīng)風(fēng)險。在知識助手的基礎(chǔ)上，公司研發(fā)“基于大規(guī)模語言模型的營銷助手”，榮獲中國信通院2023可信AI案例大模型研發(fā)應(yīng)用和工具平臺優(yōu)秀案例，并且設(shè)計“企業(yè)超級員工”成功入選“2023WAIC全球創(chuàng)新項目路演TOP20榜單”。目前，中關(guān)村科金可為企業(yè)提供開箱即用、系統(tǒng)無縫銜接、成本可負擔的大模型服務(wù)。

圖4：知識助手產(chǎn)品示意圖

　　中關(guān)村科金聚焦形成四項核心技術(shù)能力，以平衡大模型的風(fēng)險防范與價值創(chuàng)造。

　　一是避免產(chǎn)生幻覺（Hallucination）傾向的外掛知識庫技術(shù)?；糜X傾向是指大模型經(jīng)常生成一些看似合理、實在不符合事實的語句。有時杜撰出來的信息一看便知真假，有時則讓人一時無法分清事實?；糜X是目前大模型的一項固有屬性，中關(guān)村科金通過外掛知識庫在很大程度上杜絕該現(xiàn)象。

　　二是領(lǐng)先的多模態(tài)文檔解析技術(shù)。企業(yè)內(nèi)高頻、事實性知識（KnowWhat）往往存儲于結(jié)構(gòu)化數(shù)據(jù)庫中，流程性知識（KnowHow）和一些低頻事實性知識往往存在于非結(jié)構(gòu)文檔中，如：產(chǎn)品手冊、操作規(guī)章、培訓(xùn)視頻等。這類數(shù)據(jù)以往只能打上一些粗粒度標簽，中關(guān)村科金通過自研的ASR、OCR等預(yù)處理后，能夠做結(jié)構(gòu)化的解析和表示，輸入到大模型中實現(xiàn)細粒度的語義理解和流程挖掘。

　　三是基于大數(shù)據(jù)智能的思維鏈歸納技術(shù)。企業(yè)內(nèi)外部真實問答場景中，往往流程性知識問答占比較高，中關(guān)村科金通過自主研發(fā)的領(lǐng)域大模型，從文檔中的顯性文字描述中理解這類知識、從日志中的隱性事件中挖掘出這類知識，實現(xiàn)了優(yōu)于傳統(tǒng)技術(shù)的增值點。

　　四是避免災(zāi)難性遺忘的領(lǐng)域模型訓(xùn)練技術(shù)。領(lǐng)域常識注入通用大模型的過程中，往往造成大模型通用能力的下降，中關(guān)村科金通過訓(xùn)練數(shù)據(jù)和訓(xùn)練任務(wù)等一系列技巧，可以使其在具體任務(wù)上性能顯著提升且保持通用性。

　　大模型是大勢所趨，所有業(yè)務(wù)或場景都會涉及其中。目前，知識助手是企業(yè)服務(wù)賽道上最佳的切入點。未來，在其合規(guī)性、安全性、可解釋性等得到保障并贏得用戶的數(shù)字信任后，可進一步布局營銷、客服、運營等全鏈業(yè)務(wù)生態(tài)，實現(xiàn)新型人機協(xié)同的價值釋放。