隨著人工智能技術(shù)的發(fā)展，AIGC在各個領域產(chǎn)生了巨大的影響力。AIGC代表著AI技術(shù)從感知、理解世界到生成、創(chuàng)造世界的躍遷，正推動人工智能迎來下一個時代。但以AIGC為代表的人工智能產(chǎn)業(yè)高速發(fā)展的同時，其倫理治理風險備受關注。

10月29日，博鰲亞洲論壇全球經(jīng)濟發(fā)展與安全論壇（簡稱“博鰲經(jīng)安論壇”）第二屆大會“AIGC時代的可持續(xù)發(fā)展與風險管理”分論壇在湖南長沙國際會議中心舉行，來自政企學界的各界人士探討AIGC時代的主要風險和應對。

AIGC時代，風險與機遇并存

上海交通大學中國法與社會研究院院長、Tech4SDG聯(lián)盟副主席季衛(wèi)東表示，2022年末引起世界關注的大語言模型標志著生成式人工智能發(fā)展進入了一個嶄新的階段，給國家和社會帶來各種便利和收益。但人工智能生成AIGC在帶來各種便利收益的同時，也帶來了令人不安的風險，甚至威脅。

博鰲經(jīng)安論壇組委會執(zhí)行副主任盧初陽也指出，2022年，AIGC不僅被消費者追捧，也備受投資界關注。AI軟件在諸多領域發(fā)揮了獨特的作用。與此同時，AIGC也引發(fā)了一系列隱私和安全問題。

據(jù)野村綜研（上海）咨詢有限公司副合伙人陸成在論壇上分享的今年3月份的一份問卷顯示，接近10%的企業(yè)已經(jīng)開始嘗試應用生成式AI，還有不到10%的企業(yè)已經(jīng)在探討生成式AI的商業(yè)化應用。陸成表示，“未來十年是生成式AI爆發(fā)式增長的時代，將會迎來年均30%的增長。”

季衛(wèi)東認為，AIGC時代的主要風險有如下四種：第一，在類似ChatGPT的大語言模型提供網(wǎng)絡對話服務之際，可以比既有的互聯(lián)網(wǎng)搜索引擎搜索到更多的個人信息和隱私。對個人信息安全和隱私的法律保護應該進一步加強，并且要具體落地。

上海交通大學中國法與社會研究院院長、Tech4SDG聯(lián)盟副主席季衛(wèi)東

第二，根據(jù)研究報告（人工智能研究小組Epoch去年11月進行的一項研究），ChatGPT將在2026年之前耗盡所有高質(zhì)量的語言數(shù)據(jù)，在2030-2040年間耗盡所有的人類語言數(shù)據(jù)，從此，AI合成數(shù)據(jù)將徹底取代真實數(shù)據(jù)，成為訓練AI的重要資源。如果此后喂食AI的主要數(shù)據(jù)養(yǎng)料是人工智能合成數(shù)據(jù)，那么AIGC的可信度究竟如何？會不會讓虛假信息或臆造信息充斥網(wǎng)絡空間，甚至壟斷人類溝通的語境，就成為一個非常嚴重的問題。因此，防止虛假信息蔓延和大語言模型的濫用，也是AIGC時代法律的一項重要任務。

第三，大語言模型在利用各種數(shù)據(jù)進行學習，或者人工智能自動生成各種內(nèi)容之際，都有可能引起知識產(chǎn)權(quán)認定和保護方面的復雜問題。為了確保AIGC的可信度，同時明確責任，應該發(fā)明應用以及推廣各種數(shù)字防偽技術(shù)。除了知識產(chǎn)權(quán)問題之外，實際上AIGC還在社會上引發(fā)了失業(yè)的恐慌。因此，如何創(chuàng)建一種人機共存秩序，防止少數(shù)科技精英對大多數(shù)賽博朋克們的絕對支配，確保社會分配正義，也構(gòu)成AIGC時代立法、執(zhí)法以及司法的重要課題。

第四，在AIGC時代，經(jīng)濟安全保障和社會風險管控具有非常重要而緊迫的意義。各國圍繞人工智能治理進行風險溝通，并凝聚制度設計的共識，也具有非常重要的意義。

“要以負責任的AI創(chuàng)新應對可持續(xù)發(fā)展的挑戰(zhàn)”

AIGC擁有光明的未來已經(jīng)成為共識，但同時如何管理其潛在的風險？

在論壇上，國家開發(fā)投資集團特級專家趙建強博士指出，我國應對AIGC可能帶來的風險及時反應。此前，我國在“一帶一路”峰會上向各國發(fā)出了全球人工智能倡議。而近年來，我國結(jié)合實際，陸續(xù)出臺相關制度來保證AIGC技術(shù)的良性發(fā)展。

“法律法規(guī)在具體落地的過程當中還有很多治理的工作要做，把AIGC用好，賦能千行百業(yè)，同時還要管好?！壁w建強稱。

北大法寶創(chuàng)始人兼CEO趙曉海表示，“我們倡導更加包容審慎的分領域分專題的漸進式立法，以及地方立法，人工智能地方立法先行，不斷積累經(jīng)驗，發(fā)揮法律解釋的能動作用使現(xiàn)行的法律法規(guī)適用人工智能。”

三井住友海上火災保險（中國）有限公司總經(jīng)理菅匡彥介紹稱，AIGC可以在風險評估方面發(fā)揮重要作用，通過分析大量的風險數(shù)據(jù)，可以幫助保險公司有效地預知風險的可能性，并制定相應的策略。AIGC也讓我們面對一些新的挑戰(zhàn)，企業(yè)面臨更加復雜的數(shù)據(jù)安全，技術(shù)變革，市場競爭、法律法規(guī)、社會等多重風險挑戰(zhàn)。為了有效管理這些風險，企業(yè)需要主動應對變化，用創(chuàng)新型的方法，應用數(shù)字化工具提升企業(yè)的經(jīng)營和抗風險能力。

商湯科技亞太區(qū)副總裁兼戰(zhàn)略執(zhí)行負責人鄒春慧表示，AI1.0到2.0從原來“封閉的風險”發(fā)展到“開放的風險”，開發(fā)邊界無限放大，風險來源來自各個方面，防不勝防，難以界定；數(shù)據(jù)交互的實現(xiàn)在大幅度降低AI門檻的同時，也造成了AI濫用風險成指數(shù)級上升。建立安全機制防范AI風險，以及安全和性能如何平衡，這些都是需要應對的挑戰(zhàn)。特別是，今年生成式應用的爆炸式發(fā)展，隨之而來的是AI倫理更加引起關注。

鄒春慧呼吁，“我們倡導AI向善，倡導所有機構(gòu)、企業(yè)、個人樹立三個原則：一是可持續(xù)發(fā)展；二是以人為本，技術(shù)可控；三是包容各個國家地區(qū)的發(fā)展不平衡，以及歷史文化經(jīng)濟等方面的差異。要堅持以負責任的AI創(chuàng)新應對可持續(xù)發(fā)展的挑戰(zhàn)，一起推動人類文明的共同進步?！?/p>

關于AIGC浪潮對勞動力市場產(chǎn)生的影響，上海交通大學安泰經(jīng)濟與管理學院教授、上海交通大學產(chǎn)業(yè)經(jīng)濟研究中心主任史占中認為，對未來的技術(shù)變革不要過多的恐慌，技術(shù)變革消滅一部分的工作崗位，但是我們相信同時創(chuàng)造更多的就業(yè)崗位，汽車替代馬車，馬車夫的崗位消失了，但是汽車時代到來之后有更多的崗位出來了，駕駛汽車的、修理汽車的、制造汽車的、設計汽車的。“我相信新的技術(shù)變革，AIGC新的技術(shù)變革，消滅工作崗位的同時，也會創(chuàng)造更多的新的工作崗位，我們要有足夠的信心。”