人工智能時代，要不要給技術發(fā)展踩剎車？誰說了算？

生成式人工智能（AIGC）橫空出世，在驚艷世人的同時，也引發(fā)了有關抄襲、造假等方面的一系列風波；基因編輯、合成生物學的發(fā)展，在創(chuàng)造出無限可能的同時，也令世人對子孫后代的成長發(fā)育頗感擔憂。科技的高速發(fā)展，給社會帶來的不只是紅利，還有諸多倫理困境。

今天（9月8日）舉行的2024年浦江創(chuàng)新論壇“科技倫理論壇”上，科技部副部長、國家科技倫理委員會副主任邱勇指出，科學研究不斷突破人類認知邊界，技術創(chuàng)新進入前所未有的密集活躍期，它們在促進科學發(fā)現(xiàn)、推動經(jīng)濟社會發(fā)展的同時，也給個人和社會帶來全新挑戰(zhàn)，對全球科技領域的倫理秩序造成沖擊。

技術發(fā)展與治理不同頻、難同步，“敏捷治理”應對監(jiān)管難題

《連線》雜志曾在官網(wǎng)刊發(fā)題為《利用生成式AI來犯罪只是時間問題》的文章。事實上，非法交易人臉數(shù)據(jù)、偽造特定人物視頻等違法犯罪行為已經(jīng)滋生，其惡劣影響正日益受到重視。為人工智能等新科技發(fā)展劃定邊界，將技術納入監(jiān)管，已經(jīng)成為全球共識。

問題是，如何監(jiān)管技術？中國工程院院士、國家科技倫理委員會委員、人工智能倫理分委員會主任、鵬城實驗室主任高文表示，關于科技監(jiān)管的時間點，科學界一直存在兩派觀點：一派主張嚴防風險，此時此刻就保持十足警惕；另一派則認為，科技尚未發(fā)展到需要立馬踩剎車的地步。高文指出，無論哪派主張更有道理，當前比較務實的做法是給AI設計并安裝開關，就好比在造車時先裝上剎車。

中國工程院院士、國家科技倫理委員會委員、人工智能倫理分委員會主任、鵬城實驗室主任高文

無獨有偶，美國紐約大學生命倫理學中心主任馬修·廖也指出，科技監(jiān)管存在“上下游”之分，上游監(jiān)管是在技術發(fā)展的早期階段進行干預，引導其發(fā)展方向，但問題是后續(xù)風險難以預測。相比之下，下游監(jiān)管是在發(fā)展后期對現(xiàn)行技術進行回顧性管理，這種做法必須要等問題出現(xiàn)才能思考應對，所以需要承擔更多風險。針對人工智能，美國目前采取的是下游監(jiān)管，而歐盟則采用“全生命周期管理”的模式，即對數(shù)據(jù)采集、數(shù)據(jù)預處理、模型選擇、模型訓練、模型評估、部署等各環(huán)節(jié)實施監(jiān)管。

美國紐約大學生命倫理學中心主任馬修·廖

清華大學蘇世民書院院長、清華大學公共管理學院學術委員會主任薛瀾認為，想用一套機制自上而下地把所有問題都管住，這并不容易。從目前的實踐來看，以問題為導向，針對問題出臺法規(guī)，并在此基礎上進行整合，這種自下而上的管理方式更切合實際。

然而，無論采取哪種監(jiān)管路徑，技術發(fā)展與治理機制不同頻、難同步，始終是擺在監(jiān)管者面前的難題。馬修·廖表示，盡管已經(jīng)有不少國際機構出臺文件，對AI的發(fā)展方向加以明確，但這些文件缺乏約束力，且形成周期長，跟不上技術發(fā)展的速度。對此，薛瀾提出“敏捷治理”的理念，即政府不必效法歐盟推出綜合性的人工智能法律，而是需要緊緊跟上、快速響應。

科技倫理說到底是人的問題，全社會的倫理思考能力有待加強

科技倫理關鍵在人，這是與會專家表達的普遍觀點。中國工程院院士、國家科技倫理委員會委員、醫(yī)學倫理分委員會主任、中國工程院副院長王辰在談到醫(yī)學與科學的關系時表示，科學是現(xiàn)代醫(yī)學的主流基礎，但遠非全部。醫(yī)學與生物學、生命科學存在交集，但醫(yī)學還包括自然科學與技術、社會科學與方法，以及人文學科與文化。王辰說，“醫(yī)學是多學、人學、至學。”在此基礎上，醫(yī)學倫理學同樣要重視“人”這個因素。

人工智能領域的科技倫理問題，同樣也是人的問題。天津大學和南開大學原校長、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克認為，人類要形成倫理價值共識，并將其轉化為法規(guī)、政策或技術標準。此外，人類還要具備將創(chuàng)造出來的價值共識植入人工智能的技術手段，并檢驗其效果，這是“為AI立心”。假如AI被植入人類的倫理價值共識，那么它就能識別并反向糾正人類的不合倫理行為，進而對人類社會增益。

天津大學和南開大學原校長、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克

在形成倫理價值共識前，人類首先必須具備倫理意識。中國社會科學院哲學所科技哲學研究室主任、研究員段偉文指出，人工智能時代，科學實驗室被搬到了社會。如果我們對倫理風險缺乏預見性，那么就只能任由事件發(fā)生，被動推進監(jiān)管。他認為，應當轉被動為主動，加強研究，特別是提高從業(yè)人員的認知能力。

要提高從業(yè)人員的認知，首先必須打破單一學科、單一行業(yè)的界限。王辰表示，學科是獨特的，不是獨立的；是開放的，不是封閉的；是融通的，不是隔絕的；是協(xié)同的，不是掣肘的。中國科學院院士、國家科技倫理委員會委員、生命科學倫理分委員會主任、中國科學院副院長周琪也表示，生命科學、人工智能等領域的交叉融合加劇了技術集成與倫理問題的復雜性，需要多領域專家和相關部門協(xié)作應對。

中國工程院院士、國家科技倫理委員會委員、醫(yī)學倫理分委員會主任、中國工程院副院長王辰

薛瀾則認為，當前社會對人工智能的治理模式是由專家主導，以技術規(guī)則為準繩，但是規(guī)則、技術，乃至社會觀念都是動態(tài)演進的。他強調(diào)，這套規(guī)則不能局限于專家學者的討論，整個社會的倫理思考能力都有必要加強。