“如果一台機器能夠與人類展开對話（通過電傳設備）而不能被辨別出其機器身份，那么稱這台機器具有智能”——1950年，艾倫·圖靈提出了著名的圖靈測試。

圖靈測試不僅首次從行爲的角度對“智能”做出了清晰定義，也直接引申出了科技發展所具有的兩面性，一方面機器智能會越發接近或超過人類，而另一方面更強的AI也不可避免會帶來更多人類無法辨別的風險。

2023年以來，伴隨各類生成式超大模型爆發，“通過AI換臉和擬聲技術佯裝熟人實施詐騙”等AI新型騙局頻繁登上新聞頭條，引發廣泛社會關注。

除了提高全民反詐意識，還有哪些方法可以預防“新科技”騙局？

推動AI可信，強化新技術安全治理。針對“AI深度僞造（DeepFake）內容”在全球範圍內病毒式傳播，商湯科技從技術源頭出發，針對性打造兩把技術盾牌，並快速應用於各類AI產品中。

深僞檢測+數字水印， 讓AI詐騙顯行

商湯在涉及隱私保護、數字取證及僞造檢測等領域的人像合成技術有着廣泛積累，並逐步开發了基於生成、鑑僞和溯源三位一體的綜合鑑僞解決方案。

爲在僞造鑑別這場“攻防战”中奪得先機，商湯打造了高效的對抗體系。

包括自建囊括數十種先進攻擊手段的僞造生成平台，爲鑑僞檢測和溯源提供豐富多樣的攻擊案例和海量數據支持。並可通過持續集成先進僞造算法，在zero/few-shot場景下快速響應難例樣本和長尾類型，幫助提升鑑僞算法的泛化性。

“防”的層面，商湯訓練的僞造檢測大模型，可充分利用面部表情一致性、動作序列連貫性，並結合頻譜、聲音和文字等多模態信息，准確鑑別包括PS、換臉、活化以及各種先進擴散模型（如：Stable Diffusion）合成的高清人像。主流評測數據集上算法檢測精度可達到99%以上，在應對新技術復合僞造方法上（如：通過MidJourney），檢測能力也高出行業同類產品20%以上。

作爲僞造鑑別中的最後一環，溯源可追蹤僞造數據的數據物料源頭、僞造過程以及核心僞造方法。商湯通過自研基於解耦-重建的僞造檢測算法，能夠從僞造數據中分離出真實內容及僞影痕跡。在針對10余種主流僞造算法溯源上，准確率超過90%，同時還可給出數據中的相關僞造痕跡，提高檢測算法的可解釋性和可信度。這一技術爲行業首創，並作爲數字取證技術成功落地司法領域。

目前，商湯綜合鑑僞解決方案已投入實战，爲十余家銀行的安全系統提供服務，對各類灰黑產攻擊攔截成功率超行業同類產品20%以上，有效防範了灰黑產身份盜取、支付盜刷等網絡詐騙。

在AIGC技術大爆發時代，每天都會出現新的生成方法，僅僅依靠深僞檢測技術存在一定漏檢風險，從生成平台源頭加入數字水印技術可以構成強力雙保險。

商湯數字水印結合頻域分析、深度學習、擴散模型等技術，將特定信息嵌入到數字載體中，同時不影響載體的使用價值，也不易被人的知覺系統察覺，只有通過特定的解碼器和專屬密鑰才能提取，可實現篡改內容的檢測且水印不可竊取。

數字水印技術可在AIGC相關產品發布時加入，能夠有效增強深僞檢測的可靠性，甚至進一步影響生成效果，從源頭上遏制深度僞造，實現主動防御。

具體應用中，商湯數字水印技術可用於版權保護，防僞溯源等場景，支持圖像、視頻、音頻、文本等各種模態的數字載體，在不同程度的幹擾下(裁剪、壓縮等)能保證99%+的水印提取精度，且不影響數據本身質量(如高清圖畫質)，在保證水印信息容量大(256位)以及安全性(通過密鑰加密)的同時具備足夠的隱蔽性以及魯棒性。此外，數字水印技術也響應了《生成式人工智能服務管理辦法（徵求意見稿）》監管要求。

目前，商湯數字水印技術已服務於“商湯秒畫SenseMirage”、 “商湯如影SenseAvatar”等多個產品，以及內容創作、大數據客戶。

持續推進可信AI體系化建設

提升AI安全治理水平、推動AI可持續發展，是行業健康成長的根基，也是商湯科技的責任。

多年來，商湯積極釋放在可信AI領域的技術沉澱和實踐經驗，產生一系列成果：

構建“商湯AI安全治理开放平台”，提供可持續發展的AI安全公益平台；

參與國家人工智能標准化總體組和全國信標委人工智能分委會組織編寫的《人工智能倫理治理標准化指南（2023版）》，助力人工智能研發及應用更健康發展；

成爲新加坡“人工智能驗證基金會”（AI Verify Foundation）一員，促進新加坡可信AI建設，樹立具有積極社會影響力的國際實踐標杆；

榮獲隱私信息管理體系認證全部三項認證，並獲評中國人工智能產業發展聯盟（AIIA）頒發的“可信AI 2022年突出貢獻企業”；

波瀾壯闊的人工智能發展浪潮中，AI技術將不斷帶來巨大的創新和改變，但只有可信、符合倫理的AI產品才能造福人類。

本文作者可以追加內容哦 !