“AI換臉”以假亂真，規(guī)范人工智能的步子要快些

在某些人工智能技術(shù)應(yīng)用門檻不斷降低而觸達(dá)面越來越廣的當(dāng)下，積極著手問題的研判與應(yīng)對，研究出臺有效舉措劃清新技術(shù)使用的邊界、相關(guān)權(quán)責(zé)等，都應(yīng)當(dāng)快馬加鞭，少一些空白、多一些規(guī)范。

　　近來，著名小品演員、相聲演員“飆英文”的視頻讓公眾大呼震驚。據(jù)11月5日央視報道，視頻網(wǎng)站上通過人工智能換臉，國產(chǎn)影視劇里的主角用英語說起了臺詞，人們通過小程序也可以將自己變成電影里的人物。該新技術(shù)給人們帶來歡樂的同時，也帶來了一種名為“AI換臉詐騙”的新騙術(shù)，不法分子通過虛擬攝像頭，用“AI換臉”功能跟受害者聊天，相似度可達(dá)80%，而一臺電腦合成一段10秒的換臉視頻只需要一兩分鐘。為此，國家金融監(jiān)督管理總局北京監(jiān)管局近日發(fā)布謹(jǐn)防“AI換臉”等新型欺詐手段的風(fēng)險提示。

　　“AI換臉”來了，這讓不少人感受到人工智能技術(shù)正在改變我們的生活。除了用于開發(fā)娛樂性小軟件外，人工智能技術(shù)正在被廣泛應(yīng)用于醫(yī)療、新聞傳播、生物多樣性監(jiān)測等領(lǐng)域，其發(fā)展前景值得期待。

　　人工智能技術(shù)迅速發(fā)展，技術(shù)升級迭代的速度超出很多人的想象。在文字寫作上，今天，相關(guān)技術(shù)可以實現(xiàn)用簡短素材短時間生成復(fù)雜內(nèi)容，其專業(yè)性、便捷性很強。以前的人工智能合成語音相對粗糙生硬，如今合成的語音不僅有著與真人一樣的語氣語調(diào)嗓音，甚至還有了情緒。

　　此外，某些人工智能技術(shù)的可及度提升，公眾的應(yīng)用門檻降低。用戶使用某些人工智能軟件并不需要具備專業(yè)知識和技能，甚至有些產(chǎn)品已實現(xiàn)“傻瓜式操作”。比如，很多視頻剪輯軟件或短視頻平臺上就有生成方言語音的功能，用戶錄入文字或語音素材就可以即刻生成活靈活現(xiàn)的方言版字幕，豐富自己的視頻作品風(fēng)格。

　　以“AI換臉”為例，其行業(yè)門檻并沒人們通常想象的那么高，通過算法開源，普通工程師可以“分分鐘”制作出一個變臉軟件，這就導(dǎo)致控制源頭存在天然的困難。幾年前，一名外國工程師基于一個算法開源項目開發(fā)了某款變臉軟件，一時間，很多人在參加線上視頻會議時都紛紛化身“阿凡達(dá)”“馬斯克”，令人啼笑皆非。

　　問題隨之而來，一是人工智能終端產(chǎn)品已經(jīng)鋪天蓋地，但鑒別技術(shù)和設(shè)備卻未能普及，二是相關(guān)規(guī)制約束沒能及時跟上技術(shù)發(fā)展的腳步。這些在很大程度上讓某些人工智能技術(shù)有了被濫用的空間，公眾的擔(dān)心由此而起。

　　應(yīng)該看到，相關(guān)監(jiān)管一直在持續(xù)發(fā)力。近幾年，國家網(wǎng)信辦等部門先后出臺了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等政策文件，陸續(xù)開展了“互聯(lián)網(wǎng)深度合成算法備案”“大語言模型算法備案”等有關(guān)工作，有效促進(jìn)了生成式人工智能的健康發(fā)展和規(guī)范應(yīng)用，對利用AI換臉、變聲等手段實施違法犯罪等行為形成有力震懾。同時，一些頭部互聯(lián)網(wǎng)平臺也在探索算法檢測、軟件識別等辦法來識別人工智能生成產(chǎn)品并向公眾標(biāo)注說明，減少信息差，提升公眾防范意識。

　　一項新技術(shù)的落地應(yīng)用往往會經(jīng)歷一段“成長的煩惱”，這是新事物發(fā)展過程中的共性問題。比如近年來的共享單車押金難退、傷亡責(zé)任糾紛，直播帶貨虛假宣傳、售后難覓等等。有關(guān)方面解決問題的共同思路就是加快規(guī)制步伐，不斷補上法律法規(guī)和行業(yè)公約等“拼圖”。同樣，在某些人工智能技術(shù)應(yīng)用門檻不斷降低而觸達(dá)面越來越廣的當(dāng)下，積極著手問題的研判與應(yīng)對，研究出臺有效舉措劃清新技術(shù)使用的邊界、相關(guān)權(quán)責(zé)等，都應(yīng)當(dāng)快馬加鞭，少一些空白、多一些規(guī)范。

　　某種程度上，人工智能技術(shù)的使用有多方便，就可能有多少風(fēng)險和變數(shù)。防范包括“AI換臉”在內(nèi)的人工智能技術(shù)被濫用，要加強對人臉、聲紋、指紋、步態(tài)等生物信息數(shù)據(jù)的安全防護。這需要每個人提高防范意識，更需要監(jiān)管部門在完善規(guī)制的進(jìn)程上加快腳步。(本報評論員 吳迪)