合合信息AI圖像篡改檢測技術亮相WAIC2023，假截圖行騙這回踢上了“鐵板”

　　開年以來，多個圖像生成軟件在全球迅速躥紅，其作畫逼真程度“技驚四座”。AI一路“狂飆”，讓生成、篡改等多形式的圖片偽造的門檻變得更低，由此引發的隱患也令人憂慮。

　　圖像是信息的主要載體之一，利用AI進行圖像造假的行為，是AI可信化發展需要應對的重點問題。在本屆世界人工智能大會（WAIC2023）上，中國信息通信研究院（簡稱中國信通院）圍繞“多模態基礎大模型的可信AI”主題舉辦了專項論壇。論壇上，合合信息AI圖像內容安全技術方案獲得廣泛關注。該方案可精準定位截圖篡改痕跡，對生成式圖片進行智能判別，防止不法分子利用技術手段非法爬取圖片上的信息。

合合信息智能創新事業部總經理唐琪現場介紹合合信息AI圖像安全技術應用

　　用AI守護AI圖像內容安全，合合信息新技術很“實用”

　　去年的人工智能大會上，合合信息首次展示了“PS篡改檢測”技術，“像素級”的識別精確度讓現場參觀者感嘆，在識別證件、票據等各類重要的商業材料中的PS痕跡方面，AI真的是“火眼金睛”。

合合信息AI圖像篡改檢測技術應用效果展示

　　今年，AI圖像篡改檢測“黑科技”持續優化升級，應用面也拓展至“截圖篡改檢測”。相較于去年的自然場景圖像，對用戶生活影響更大的資質證書、文檔合同、銀行保單等截圖若被不法分子利用，所承受的財產損失難以估量。

　　據了解，升級后的AI圖像篡改檢測技術可檢測包括轉賬記錄、交易記錄、聊天記錄等多種截圖，無論是從原圖中“摳下”關鍵要素后移動“粘貼”至另一處的“復制移動”圖片篡改手段，還是“擦除”“重打印”等方式，圖像篡改檢測技術均可“慧眼”識假。

“重打印”篡改圖片檢測示例：將一張圖片輸入到合合信息AI圖像篡改檢測模型中，模型便能夠判別這張圖像是否被篡改，并且定位圖像的篡改區域

　　該技術的主要難點在于，與證照篡改檢測相比，截圖的背景沒有紋路和底色，整個截圖沒有光照差異，難以通過拍照時產生的成像差異進行篡改痕跡判斷，現有的視覺模型通常難以充分發掘原始圖像和篡改圖像的細粒度差異特征。

　　為此，合合信息提出了一種基于HRNet的編碼器－解碼器結構的圖像真實性鑒別模型，結合圖像本身的信息，包括但不限于噪聲、頻譜等，從而捕捉到細粒度的視覺差異，達到高精度鑒別效果。

　　針對頻上“熱搜”的AIGC話題，合合信息研發了關于AI生成圖片鑒別技術，用于判斷圖片是否由AI生成。AIGC生成圖像識別的一大難點在于AI生成的圖像場景繁多，機器難以判別。合合信息基于空域與頻域關系建模，能夠利用多維度特征來分辨真實圖片和生成式圖片的細微差異。

　　此外，合合信息對OCR對抗攻擊技術展開了創新性的研究。當人們在網上發送含有個人信息的圖片時，這些資料包含的信息很可能被不法分子使用OCR技術提取并泄露。OCR對抗攻擊技術可對場景文本或者文檔內文本進行擾動，為個人或企業的重要文件“上鎖”，防止第三方通過OCR系統讀取并保存圖像中所有的文字內容，降低數據泄露的風險，達到保護隱私信息的目的。

合合信息OCR對抗攻擊技術應用效果展示，可對關鍵信息進行遮蓋，在不影響肉眼觀看的情況下阻止機器自動爬取

　　推動圖像內容安全行業發展標準建立，助力可信AI系統化落地

　　中國信通院發布的《人工智能白皮書（2022年）》中提到，人工智能正在邁入“創新驅動、應用深化、規范發展”的新階段。可信AI的實現，需要政府、企業、高校等多方力量的協同。行業標準的制定，或將為中國“可信AI”在機器視覺、圖像處理領域的體系建設提供有力支持。

　　為貫徹落實《中華人民共和國網絡安全法》《生成式人工智能服務管理辦法（征求意見稿）》等文件中對于AI服務的規范性要求，系統性建立圖像內容安全行業發展秩序，今年6月，中國信通院牽頭啟動了《文檔圖像篡改檢測標準》制定工作，合合信息、中國圖像圖形學學會、中國科學技術大學等科技創新企業及知名學術機構聯合參與編制。

　　據悉，該項標準將基于產業現狀，圍繞“細粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護等行業焦點議題，凝聚行業共識，以期為行業提供有效指引。合合信息智能創新事業部總經理唐琪在論壇分享中表示，《文檔圖像篡改檢測標準》制定項目的啟動，是AI圖像內容安全體系建設之路上的重要的里程碑。期待更多研究機構、企業主體參與進來，共同推動AI服務規范性的整體提升和行業發展秩序的建立，助力科技向上而行，向善發展。

　　可信AI的健康發展，除了標準引領，也需要“硬科技”支撐。合合信息深耕智能文字識別、智能圖像處理領域，技術成果獲權威機構及市場認可。最近一個月內，公司智能文檔處理產品通過中國信通院“可信AI—智能文檔處理系統”評估工作，并獲得“5級”評定。“5級”為該模塊最高評定等級。

　　目前，合合信息AI技術已落地于銀行、保險、證券、制造、政務等近30個行業，服務全球超過200個國家和地區的個人及企業用戶。未來，合合信息將與學術、產業合作伙伴共同助力AI圖像內容行業的安全和可信發展，打造上海人工智能發展的亮麗名片。