近日，工信部組織開展基礎電信網(wǎng)絡安全科技創(chuàng)新任務“揭榜掛帥”（第一批）工作，中移物聯(lián)網(wǎng)有限公司（以下簡稱“中移物聯(lián)”）成功入選生成式人工智能服務安全保護關鍵技術研究的揭榜單位。

據(jù)悉，此次研究中移物聯(lián)攜手中國移動信安中心、華為等8家單位，立足中國移動協(xié)同創(chuàng)新基地成渝節(jié)點產(chǎn)業(yè)鏈的重點攻關領域——物聯(lián)網(wǎng)AI大模型，利用大模型安全技術和深度偽造特征分析識別技術，構建大規(guī)模、高效能的安全評測平臺和深度偽造檢測系統(tǒng)，標志著中移物聯(lián)在網(wǎng)絡安全及人工智能等領域邁出了堅實的一步。

本次研究以物聯(lián)網(wǎng)開放實驗室技術環(huán)境為基礎，具備多模態(tài)數(shù)據(jù)采集與處理能力，重點圍繞生成式人工智能服務安全風險監(jiān)測、音視頻人工智能深度合成偽造檢測兩方面關鍵技術開展攻關和能力建設。

針對人工智能在反詐領域的應用，研究人員表示，該系統(tǒng)基于深度學習與多模態(tài)融合技術，實現(xiàn)圖像、音頻、視頻等深度偽造內(nèi)容的精準識別，有效防范偽造信息的詐騙風險。尤其針對偽造圖片、音頻、視頻等用于冒充身份實施電信網(wǎng)絡詐騙的行為，能夠?qū)崿F(xiàn)實時監(jiān)測、預警和攔截，有效保障用戶在電話實名制、遠程視頻等應用場景中的信息安全。目前，該系統(tǒng)已在視聯(lián)網(wǎng)業(yè)務場景中進行測試應用，為各行業(yè)應對生成式人工智能安全風險保駕護航。