重慶兩江新區(qū)舉行金融大模型發(fā)展論壇 院士專家建言金融大模型需更注重可信安全

“金融行業(yè)作為人工智能應(yīng)用要求高、場(chǎng)景豐富，是大模型技術(shù)和算法突破的沃土?！?月28日，在重慶兩江新區(qū)舉行的金融大模型發(fā)展論壇暨馬上消費(fèi)金融大模型發(fā)布會(huì)上，中國(guó)工程院院士倪光南表示。

中國(guó)工程院院士、浙江大學(xué)求是特聘教授譚建榮在論壇上作報(bào)告。受訪者供圖

論壇上，多位院士專家圍繞生成式人工智能和金融大模型展開(kāi)了討論。

中國(guó)工程院院士、浙江大學(xué)求是特聘教授譚建榮，講解了大模型的關(guān)鍵技術(shù)與發(fā)展趨勢(shì)。他介紹，過(guò)去的人工智能強(qiáng)調(diào)因果關(guān)系，而現(xiàn)在大數(shù)據(jù)強(qiáng)調(diào)關(guān)聯(lián)關(guān)系，從不確定性中尋找確定性，從變量中找出不變量。

“生成式人工智能三大技術(shù)特征就是大數(shù)據(jù)、大模型和大算力?！弊T建榮表示，生成式人工智能是基于知識(shí)工程和知識(shí)圖譜的大模型，知識(shí)工程就是從數(shù)據(jù)里凝練出知識(shí)，這是人工智能的核心，其目的還是提高人們借助現(xiàn)代化工具利用信息的能力。

“生成式人工智能的基本定位還是智力勞動(dòng)者的助手?！睔W洲科學(xué)院外籍院士、清華大學(xué)人工智能研究院常務(wù)副院長(zhǎng)孫茂松表示，生成式人工智能不會(huì)把一個(gè)行業(yè)整體取代。它的特點(diǎn)是一定會(huì)出錯(cuò)，如ChatGPT是通用大模型對(duì)文本語(yǔ)言比較重視，對(duì)數(shù)字其實(shí)不敏感，所以有時(shí)候會(huì)答非所問(wèn)。通用大模型的落地也是一大挑戰(zhàn)，如用在金融領(lǐng)域就很有可能出現(xiàn)“雞同鴨講”的情況。

“坦誠(chéng)地講，在工業(yè)領(lǐng)域、金融領(lǐng)域，通用大模型還有四個(gè)關(guān)鍵的難題。”馬上消費(fèi)首席信息官蔣寧表示，通用大模型目前還面臨關(guān)鍵性任務(wù)和動(dòng)態(tài)適應(yīng)性、個(gè)性化要求和隱私保護(hù)、群體智能與安全可信和基礎(chǔ)設(shè)施的能力四大難題。

應(yīng)對(duì)人工智能風(fēng)險(xiǎn)方面，國(guó)際系統(tǒng)與控制科學(xué)院院士、重慶國(guó)家應(yīng)用數(shù)學(xué)中心主任楊新民表示，隨著大模型的開(kāi)放開(kāi)源，深度合成技術(shù)的非法使用存在加速積聚的風(fēng)險(xiǎn)。

針對(duì)提升大模型應(yīng)用的可信實(shí)踐，中國(guó)信息通信研究院副總工程師王愛(ài)華在致辭中表示：“可信人工智能實(shí)踐的路徑逐步清晰。人工智能發(fā)揮作用越大，它對(duì)于安全可信的要求也是越高的。當(dāng)從業(yè)者自身把安全和一些問(wèn)題作為發(fā)展第一要?jiǎng)?wù)的時(shí)候，說(shuō)明這個(gè)技術(shù)在整個(gè)領(lǐng)域會(huì)進(jìn)行應(yīng)用?！?/p>

全國(guó)首個(gè)零售金融大模型——“天鏡”發(fā)布。受訪者供圖

會(huì)上，馬上消費(fèi)金融股份有限公司（以下簡(jiǎn)稱馬上消費(fèi)）發(fā)布全國(guó)首個(gè)零售金融大模型——“天鏡”。“我們希望在任何情況下‘天鏡’給客戶的回答，給所有的員工的回答是合規(guī)的，并且在任何不可預(yù)期的情況下它的結(jié)果是穩(wěn)定的?！笔Y寧表示，馬上消費(fèi)已形成“三縱三橫”的大模型發(fā)展技術(shù)布局。所謂三縱，是指實(shí)時(shí)人機(jī)協(xié)作、多模態(tài)智能、數(shù)據(jù)決策智能，在數(shù)據(jù)領(lǐng)域?qū)崿F(xiàn)智能化，實(shí)現(xiàn)結(jié)構(gòu)性數(shù)據(jù)判別式模型的綜合能力。三橫即是指持續(xù)學(xué)習(xí)、模型合規(guī)、組合式AI形成安全、合規(guī)、可信的魯棒性技術(shù)能力，確保讓模型越用越聰明，同時(shí)更穩(wěn)定、更安全可控。

基于此，中國(guó)信通院、重慶國(guó)家應(yīng)用數(shù)學(xué)中心和馬上消費(fèi)牽頭發(fā)起，阿里云、復(fù)旦大學(xué)金融科技研究院、騰訊云、中國(guó)科學(xué)院自動(dòng)化研究所等單位聯(lián)合倡議發(fā)起“金融大模型可信安全驗(yàn)證與聯(lián)合創(chuàng)新行動(dòng)計(jì)劃”。