上傳一張照片，就能利用AI技術(shù)鑒別照片是不是其他AI的偽造品；不法分子使用了AI換臉技術(shù)，也能被AI精準(zhǔn)識(shí)破。

11月19日，2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)開(kāi)幕，人工智能再次成為熱議話題。在“互聯(lián)網(wǎng)之光”博覽會(huì)的螞蟻集團(tuán)展臺(tái)，極目新聞?dòng)浾咦⒁獾?，AI能夠幫助我們識(shí)別圖片是否經(jīng)過(guò)AI創(chuàng)作，還能堵上AI換臉帶來(lái)的安全漏洞。

過(guò)去一年，全球人工智能技術(shù)發(fā)展迅速，正在成為新一輪科技革命和產(chǎn)業(yè)變革的重要力量。今年的世界互聯(lián)網(wǎng)大會(huì)聚焦于人工智能技術(shù)、產(chǎn)業(yè)發(fā)展及其對(duì)人類(lèi)經(jīng)濟(jì)社會(huì)的影響。

螞蟻集團(tuán)展臺(tái)工作人員介紹，當(dāng)大模型和AI智能體帶來(lái)前所未見(jiàn)的智能體驗(yàn)，模型內(nèi)部幻覺(jué)、安全漏洞和深度生成內(nèi)容偽造等問(wèn)題也帶來(lái)了新的挑戰(zhàn)。螞蟻集團(tuán)的“AI鑒真”工具，可以實(shí)現(xiàn)用AI打敗AI。

用AI生成一張照片或一段視頻，這在技術(shù)上被稱為深度偽造，常被犯罪分子用于詐騙勒索。螞蟻正通過(guò)蟻天鑒和ZOLOZ等安全技術(shù)產(chǎn)品加強(qiáng)對(duì)圖像、視頻的鑒真能力。

蟻天鑒不僅支持圖像、視頻等多模態(tài)內(nèi)容真實(shí)性及深度偽造的監(jiān)測(cè)，還支持大模型X光、大模型基礎(chǔ)設(shè)施測(cè)評(píng)、應(yīng)用安全測(cè)評(píng)、圍欄防御等技術(shù)能力。

極目新聞?dòng)浾攥F(xiàn)場(chǎng)從圖庫(kù)中選擇了多張照片，僅用幾秒，蟻天鑒就可以準(zhǔn)確識(shí)別出圖片或視頻片段的真?zhèn)?，明確告訴記者是否經(jīng)過(guò)了AI創(chuàng)作。此外，還可以通過(guò)紋理、光影、文字等細(xì)節(jié)，鑒別營(yíng)業(yè)執(zhí)照等證照的真實(shí)性。

而ZOLOZ技術(shù)則更專(zhuān)注于攻克AI換臉難題，其人臉識(shí)別準(zhǔn)確率達(dá)99.9%。在現(xiàn)場(chǎng)，極目新聞?dòng)浾哂檬謾C(jī)拍攝本人頭像照片后，AI將這張照片合成為戴眼鏡和露齒笑兩張照片，以及包含眨眼、張嘴等動(dòng)作的活化視頻，十分具有迷惑力。搭載ZOLOZ技術(shù)的手機(jī)通過(guò)前置攝像頭的逐一識(shí)別，很快鑒別出原始照片，給深度偽造的照片及視頻打上醒目標(biāo)簽。現(xiàn)場(chǎng)多位觀眾多次嘗試，都沒(méi)能混淆ZOLOZ的判斷。

工作人員介紹，目前ZOLOZ已為中國(guó)、印尼、馬來(lái)西亞、菲律賓等24個(gè)國(guó)家和地區(qū)提供技術(shù)服務(wù)，涵蓋金融、保險(xiǎn)、證券、信貸、電信、公共服務(wù)等多個(gè)領(lǐng)域，累計(jì)服務(wù)用戶超12億。

“螞蟻AI智能體的技術(shù)底座，就是我們的‘認(rèn)知決策智能體技術(shù)創(chuàng)新與應(yīng)用’?！爆F(xiàn)場(chǎng)工作人員介紹。該技術(shù)底座以萬(wàn)億參數(shù)可信大模型“螞蟻百靈大模型”為基礎(chǔ)能力，結(jié)合高性能知識(shí)決策引擎技術(shù)，使得大模型在決策時(shí)更準(zhǔn)、更可靠、更安全，就像為大模型裝上了可信的大腦。