亚洲av无码成h人动漫无遮挡,特级欧美aaaaaaa免费观看,丝袜制服av熟女♀,亚洲avav天堂av在线网阿v,少妇人妻真实偷人精品视频

陸洪磊、陸慶悠：打破AI謠言“黑箱”，需要社會(huì)共治

AIGC行業(yè)資訊6個(gè)月前發(fā)布 zhang
17 0
前段時(shí)間的日喀則地震牽動(dòng)了全國人民的心，一組“小男孩被埋”的圖片也引發(fā)廣泛關(guān)注。然而經(jīng)警方查證，這組圖片實(shí)為人工智能（AI）工具創(chuàng)作，原圖發(fā)布于2024年11月，在地震發(fā)生后被造謠者利用。
無獨(dú)有偶，美國加州山火尚未平息，“好萊塢巨型標(biāo)志牌被山火吞沒”的影像在社交平臺(tái)流傳。然而事實(shí)上山火并未波及標(biāo)志牌附近區(qū)域，視頻中標(biāo)志牌也存在拼寫錯(cuò)誤。
雖然地點(diǎn)不同，但接連兩起利用恐慌情緒、借AI傳播謠言的事件，造成了惡劣的影響。AI技術(shù)在解放生產(chǎn)力的同時(shí)，也在多個(gè)層面讓謠言更“真實(shí)”、危害更大、治理更難。
首先，AI強(qiáng)化了謠言的欺騙性。根據(jù)傳播學(xué)的認(rèn)知一致理論，所謂“眼見為實(shí)”，是因?yàn)橐曈X信息往往是最直接、最生動(dòng)的信息來源。如果是深度偽造技術(shù)生成的音頻和視頻，多種信源渠道相互印證下還會(huì)形成謠言的回音室效應(yīng)，讓欺騙性更上一層。
其次，AI擴(kuò)大了辟謠與造謠間的成本“剪刀差”。在謠言、尤其是涉災(zāi)等重大事件謠言的早期傳播中，權(quán)威信息披露的速度與公眾強(qiáng)烈的信息需求間存在巨大缺口。過去，造謠者還需要通過剪輯等手段偽造圖像，如今AI只需數(shù)分鐘就能從無到有生成一張圖像，讓造假門檻大幅降低。另一邊，識(shí)別ai圖像的難度卻在提高。AI圖像的識(shí)別分析涉及圖像細(xì)節(jié)真實(shí)性、色差等專業(yè)領(lǐng)域，十分復(fù)雜。同時(shí)，AI圖像識(shí)別工具的效率相比海量的AI謠言也顯得杯水車薪。此消彼長之下，附帶AI圖像的謠言數(shù)量大增，謠言傳播力和破壞力也隨之上升。
最后，現(xiàn)階段使用AI模型生成謠言的過程具有“黑箱”特性，治理難度很大。AI的深度學(xué)習(xí)模型包含成千上萬個(gè)節(jié)點(diǎn)和連接，模型的決策邏輯被隱藏在多層神經(jīng)網(wǎng)絡(luò)之中，且模型激活函數(shù)通常是高度非線性的，這使得輸出內(nèi)容與輸入信息之間的關(guān)系十分復(fù)雜，難以追蹤和理解。這一不透明的操作機(jī)制為相關(guān)法律法規(guī)的制定帶來了挑戰(zhàn)。
那么，要想有效應(yīng)對(duì)AI造謠，既要前瞻性地在模型搭建過程中引入防火墻等警示機(jī)制，打破技術(shù)“黑箱”，提高AI審核完整度與透明度；又要做好動(dòng)態(tài)治理，保持對(duì)技術(shù)濫用現(xiàn)象的持續(xù)跟進(jìn)與嚴(yán)厲打擊，提高造謠成本。
具體而言，在技術(shù)層面，一方面要在模型中集成異常檢測機(jī)制，對(duì)異常行為或數(shù)據(jù)發(fā)出警告。另一方面則要完善ai識(shí)別工具與數(shù)字水印。目前一些AI生成的圖像會(huì)在四角位置標(biāo)注半透明水印，但這類水印很容易被截除。因此，探索混入圖片元數(shù)據(jù)、難以移除的隱性水印或許可證，并提高識(shí)別工具的效率和準(zhǔn)確性，是技術(shù)防偽的重要方向。
在平臺(tái)層面，加強(qiáng)內(nèi)容審核與快速響應(yīng)機(jī)制仍是短期內(nèi)提高的主要方向。通過高算力AI識(shí)別工具進(jìn)行核查是平臺(tái)而非用戶的主要責(zé)任。作為信息傳播的主要關(guān)口，平臺(tái)有責(zé)任有義務(wù)持續(xù)改進(jìn)審核技術(shù)與流程，消除謠言的傳播土壤。
在用戶層面，提高媒介素養(yǎng)與信息辨別能力，多問幾個(gè)“真的嗎”“為什么”是建設(shè)理性客觀網(wǎng)絡(luò)環(huán)境的重要方向。例如，“小男孩被埋”謠言傳播過程中，也有不少細(xì)心網(wǎng)民發(fā)現(xiàn)了圖中小男孩手指數(shù)量異常，提出了質(zhì)疑。AI生成圖像時(shí)常會(huì)出現(xiàn)如人物不自然、靜物透視失真等細(xì)節(jié)“崩壞”問題，這都是AI謠言的突破口。另一方面，針對(duì)造謠者嚴(yán)厲追責(zé)并將案例定期公示，是強(qiáng)化用戶使用AI工具最好的警示教育。
今天，各項(xiàng)技術(shù)正快速迭代，相關(guān)治理手段和路徑也應(yīng)具有前瞻性和動(dòng)態(tài)性。不存在能夠一勞永逸的解決方案，只有建立技術(shù)向善的制度保障、強(qiáng)化平臺(tái)管理能力、提升網(wǎng)民的素質(zhì)素養(yǎng)，形成社會(huì)共治格局，才是與時(shí)俱進(jìn)、實(shí)現(xiàn)長治久安的根本之策。
? 版權(quán)聲明

相關(guān)文章