亚洲av无码成h人动漫无遮挡,特级欧美aaaaaaa免费观看,丝袜制服av熟女♀,亚洲avav天堂av在线网阿v,少妇人妻真实偷人精品视频

聯(lián)合國專家談負(fù)責(zé)任使用AI：能搜索到信息就別用聊天機(jī)器人了

AIGC行業(yè)資訊1年前 (2024)發(fā)布 zhang
20 0
“作為計(jì)算機(jī)科學(xué)教授，1984年我就做了一個(gè)關(guān)于人工智能的項(xiàng)目，可想而知AI的發(fā)展經(jīng)歷了多么漫長的討論。” 英國南安普敦大學(xué)教授溫迪·霍爾（Wendy Hall）近日在第十二屆世界和平論壇上說到這里時(shí)，臺(tái)上同席而坐的幾位專家笑稱那時(shí)候他們還是孩子。
霍爾上大學(xué)的時(shí)候還幾乎接觸不到電腦，在數(shù)學(xué)專業(yè)讀到博士畢業(yè)后，她對(duì)新出現(xiàn)的微型計(jì)算機(jī)頗感興趣，于是轉(zhuǎn)而攻讀計(jì)算機(jī)科學(xué)碩士，并在畢業(yè)時(shí)寫了一個(gè)智能教學(xué)程序。她7月7日在北京接受澎湃新聞（www.thepaper.cn）專訪時(shí)說，“那時(shí)我只是想眺望一下未來，看看我們可以怎樣依靠電腦來使用人工智能?！北藭r(shí)，全球范圍內(nèi)的人工智能正在從理論研究走向?qū)嶋H應(yīng)用。
聯(lián)合國專家談負(fù)責(zé)任使用AI：能搜索到信息就別用聊天機(jī)器人了
英國南安普敦大學(xué)教授溫迪·霍爾（Wendy Hall）接受澎湃新聞專訪。
自那一眺望之后，霍爾帶領(lǐng)的團(tuán)隊(duì)在1988年開發(fā)出微觀世界超媒體系統(tǒng)（Microcosm Hypermedia System），將文檔之間的鏈接存儲(chǔ)在單獨(dú)的數(shù)據(jù)庫中，來構(gòu)建一個(gè)更加互聯(lián)的網(wǎng)絡(luò)，那時(shí)候萬維網(wǎng)還未出現(xiàn)。
“此后，我的職業(yè)生涯一直在使用人工智能。”霍爾說道。
上世紀(jì)80年代末，霍爾在南安普頓大學(xué)計(jì)算機(jī)科學(xué)專業(yè)教了3年書之后，意識(shí)到一個(gè)奇怪的現(xiàn)象，這個(gè)專業(yè)的學(xué)生當(dāng)中沒有女性，英國其他高校也基本如此。她回憶，那個(gè)時(shí)候計(jì)算機(jī)被包裝為男孩的玩具進(jìn)行銷售，似乎與女性沒什么關(guān)系?！拔覀兙瓦@樣讓一代女性對(duì)計(jì)算機(jī)失去了興趣，之后此學(xué)科的性別比例也沒有完全恢復(fù)平衡，所以相應(yīng)的做人工智能的女性就更少了?！?/span>
不過，令她感到欣喜的是，聯(lián)合國層面的AI咨詢系統(tǒng)注意到了多樣性問題。2023年霍爾入選聯(lián)合國人工智能高級(jí)別咨詢機(jī)構(gòu)（High-level Advisory Body on Artificial Intelligence），39名專家中包含20名女性和19名男性，代表33個(gè)國家。她強(qiáng)調(diào)，如果開發(fā)人工智能的團(tuán)隊(duì)不具有多樣性，很有可能存在偏見和不公，因?yàn)橹皇怯脝我环绞剿伎肌?/span>
霍爾曾在2017年受英國政府之邀為國家撰寫AI產(chǎn)業(yè)發(fā)展路線圖，兩周前還與時(shí)任英國首相蘇納克一起討論人工智能安全問題。近一年，她和聯(lián)合國人工智能咨詢機(jī)構(gòu)的團(tuán)隊(duì)成員一起撰寫《以人為本的人工智能治理》報(bào)告，報(bào)告最終版將于今夏發(fā)布。對(duì)于人工智能的治理與監(jiān)管，這位教授從英國和聯(lián)合國機(jī)構(gòu)的視角闡述了見解。
人工智能領(lǐng)域的女性角色
澎湃新聞：您從1984年就涉足人工智能領(lǐng)域，至今已經(jīng)有40年，這期間人工智能的技術(shù)和商業(yè)應(yīng)用已經(jīng)發(fā)生了翻天覆地的變化，您一直堅(jiān)守在這個(gè)學(xué)科進(jìn)行研究工作的動(dòng)力是什么？
溫迪·霍爾：我曾是一名數(shù)學(xué)家，博士畢業(yè)正值微型計(jì)算機(jī)開始出現(xiàn)，當(dāng)時(shí)我想要在研究型大學(xué)工作，但因?yàn)樘贻p了找不到合適的崗位，也發(fā)現(xiàn)自己的能力無法與微型計(jì)算機(jī)的記憶力與算力匹敵。當(dāng)我了解到除了通過程序代碼之外，還可以與計(jì)算機(jī)進(jìn)行交互，在計(jì)算機(jī)上放置圖形和多媒體時(shí)，我對(duì)如何將其應(yīng)用于教育很感興趣，之后對(duì)超媒體（hypermedia）也變得非常感興趣，便開始了研究的道路。
二三十年前，人們覺得計(jì)算機(jī)科學(xué)家杰弗里·辛頓（Jeffery Hinton）瘋了，因?yàn)樗粩嗵岢鲂曼c(diǎn)子，但這通常就是研究的方式，也是我為什么喜歡做研究的原因。我樂于被告知自己所做的研究永遠(yuǎn)不會(huì)實(shí)現(xiàn)，然后時(shí)隔多年我可以對(duì)人們說，“看，我30年前所做的研究現(xiàn)在已經(jīng)實(shí)現(xiàn)?！蔽覍?duì)此感到非常自豪。比如在1990年代我就談?wù)撨^可穿戴計(jì)算機(jī)設(shè)備，并有視頻記錄，當(dāng)時(shí)人們問我為什么需要可穿戴計(jì)算機(jī)，而現(xiàn)在智能穿戴已經(jīng)普及。
我不想為科技巨頭工作，因?yàn)楫a(chǎn)業(yè)界是利益驅(qū)動(dòng)的，必須專注于讓股價(jià)上漲和銷售產(chǎn)品。我在上世紀(jì)90年代確實(shí)創(chuàng)辦了一些初創(chuàng)公司，它們?nèi)〉昧瞬煌潭鹊某晒Γ]讓我變得富有。我在大學(xué)可以自由地思考，可以做感興趣的研究，是很棒的體驗(yàn)。
澎湃新聞：在人工智能領(lǐng)域，像您這樣的女性研究者并不多見，如何提高女性的參與度？
溫迪·霍爾：我認(rèn)為人工智能不應(yīng)該被視為計(jì)算機(jī)科學(xué)的一個(gè)子集，它比計(jì)算機(jī)科學(xué)要大得多。當(dāng)我們討論它時(shí)，不僅僅是在談?wù)?a class="external" href="http://www.xmqqs.cn/favorites/ai-programming-tools" title="查看與 編程 相關(guān)的文章" target="_blank">編程，還在談?wù)撍膫惱?、治理、政策，我們需要立法者、人文學(xué)科研究者、商業(yè)人士、哲學(xué)家和心理學(xué)家。所以，性別、年齡、種族方面的多樣性非常重要，因?yàn)槿斯ぶ悄苁菫槿澜绱蛟斓摹?/span>
我非常擔(dān)心人工智能通過計(jì)算機(jī)科學(xué)來篩選人才，而研究計(jì)算機(jī)科學(xué)的女性非常少。所以相應(yīng)的，做人工智能的女性就更少了。從進(jìn)入人工智能領(lǐng)域至今40年，我仍然是該領(lǐng)域中少數(shù)女性之一。
澎湃新聞：人工智能領(lǐng)域中女性研究者較少是否會(huì)導(dǎo)致多樣性的缺失，進(jìn)而引發(fā)其他問題？
溫迪·霍爾：我非常強(qiáng)烈地主張多樣性，如果只是單一文化，那么生產(chǎn)的任何東西，無論是研究還是產(chǎn)品，都更有可能存在偏見和不公，因?yàn)橹皇且砸环N方式思考。如果開發(fā)人工智能的團(tuán)隊(duì)不具有多樣性，那從道德的層面來看是有問題的。
當(dāng)然，聯(lián)合國人工智能高級(jí)別咨詢機(jī)構(gòu)的團(tuán)隊(duì)是極具多樣性的，不僅男女比例對(duì)半分，在年齡、種族、商業(yè)背景方面也非常多樣化。所以這是一個(gè)很棒的團(tuán)隊(duì)，是多樣性的一個(gè)典范。
AI規(guī)則制定應(yīng)由誰主導(dǎo)
澎湃新聞：人工智能高級(jí)別咨詢機(jī)構(gòu)的39名專家分布在33個(gè)不同國家，每個(gè)大洲都有代表。當(dāng)不同國家、學(xué)科和背景的專家一起制定報(bào)告時(shí)會(huì)有怎樣的分歧？
溫迪·霍爾：因?yàn)樾〗M具有多樣性，各個(gè)地區(qū)的專家都非常深入地參與其中，所有專家都敢于說出自己的想法，因此我們不是在每件事上都意見一致。但之所以機(jī)構(gòu)運(yùn)行成功，很大程度上歸功于聯(lián)合國的領(lǐng)導(dǎo)，尤其是聯(lián)合國秘書長技術(shù)特使阿曼迪普?吉爾，他是一個(gè)非常有影響力的人物，但他并不顯得高高在上，通常能讓每個(gè)人以自己的方式行事，他鼓勵(lì)人們發(fā)言，讓人們真正參與到討論中。通常來說每個(gè)人都會(huì)發(fā)聲，這就是全面的多樣性，這讓我深有感觸。
我特別喜歡聽團(tuán)隊(duì)中的法律從業(yè)者以不同的方式去思考世界，非常合乎邏輯。我們彼此了解，已經(jīng)進(jìn)行了多次線上和線下會(huì)議，包括一些深入的探討，包括開源、人工智能的和平，以及兒童和性別等各種議題。
澎湃新聞：聯(lián)合國人工智能高級(jí)別咨詢機(jī)構(gòu)去年12月發(fā)布了《以人為本的人工智能治理》中期報(bào)告，呼吁將國際規(guī)范與人工智能的開發(fā)和推廣方式更緊密地結(jié)合起來。最終報(bào)告尚未發(fā)布，現(xiàn)在的工作進(jìn)展如何？
溫迪·霍爾：最終報(bào)告已經(jīng)基本完成了并提交給了聯(lián)合國秘書長，還會(huì)有一些反饋意見，可能后期會(huì)更新和迭代，最重要的是聯(lián)合國領(lǐng)導(dǎo)層是否樂于接受我們所提出的內(nèi)容，我們必須要以他們能接受的方式堅(jiān)定地說出想說的話。這份報(bào)告將作為今年9月未來峰會(huì)（Summit of the Future）上將討論的全球數(shù)字契約的一部分。我們非常希望報(bào)告中的大部分內(nèi)容被納入契約。
對(duì)于報(bào)告的細(xì)節(jié)，我們?yōu)槁?lián)合國和人工智能機(jī)構(gòu)留有探討的空間和其他可能性，我們訪問了世界衛(wèi)生組織、知識(shí)產(chǎn)權(quán)組織、人權(quán)組織、國際電信聯(lián)盟（ITU），他們都在推進(jìn)有關(guān)人工智能的工作，但往往只能看到自己關(guān)注的那一部分，我們正試圖跨越這個(gè)障礙，構(gòu)建一個(gè)網(wǎng)絡(luò)是一種解決方案。
澎湃新聞：小到科研機(jī)構(gòu)、科技公司，大到國家政府和聯(lián)合國，都在不同層面討論和制定人工智能相關(guān)的規(guī)則來盡可能地確保安全，那么究竟哪一方享有規(guī)則制定的主導(dǎo)權(quán)？
溫迪·霍爾：國家政府在規(guī)則制定方面有很大的影響力，比如英國去年成立了人工智能安全研究所，旨在提高對(duì)人工智能安全的認(rèn)識(shí)。但我并不是很贊同這種做法，因?yàn)樗^多地帶有政府部門的色彩，缺乏學(xué)術(shù)界的參與。而聯(lián)合國是世界上唯一真正具有普遍性的全球組織，可以處理各種問題，盡管它可能是不完美的，但是我們可以利用這樣一個(gè)平臺(tái)來構(gòu)建一個(gè)AI治理的網(wǎng)絡(luò)。
澎湃新聞：英國去年主辦了一次國際人工智能安全峰會(huì)，時(shí)任首相蘇納克說：“目前唯一測試人工智能模型安全性的是開發(fā)它的公司。”他認(rèn)為這是遠(yuǎn)遠(yuǎn)不夠的。那么如何讓更多人參與到人工智能安全性的檢測和提升當(dāng)中？
聯(lián)合國專家談負(fù)責(zé)任使用AI：能搜索到信息就別用聊天機(jī)器人了
當(dāng)?shù)貢r(shí)間2023年11月2日，英國倫敦，人工智能安全峰會(huì)期間，英國時(shí)任首相蘇納克與特斯拉CEO馬斯克出席一場對(duì)話活動(dòng)。視覺中國 圖
溫迪·霍爾：談到去年在英國舉辦的人工智能峰會(huì)，非常坦率地講，讓我惱火的是有很多國家沒有被邀請(qǐng)，受邀的標(biāo)準(zhǔn)并不清楚，而且很多學(xué)者完全被排除在外。
關(guān)于人工智能的安全性，在很多行業(yè)，一般是行業(yè)開發(fā)測試工具對(duì)產(chǎn)品進(jìn)行檢測，然后提交報(bào)告給政府接受監(jiān)管，這也是目前人工智能遵循的一套規(guī)則。在英國，人工智能安全研究所都不一定能夠訪問那些科技公司的數(shù)據(jù)，更不用說其他機(jī)構(gòu)和個(gè)人。我認(rèn)為公司管理安全性和政府監(jiān)管的平衡需要更進(jìn)一步優(yōu)化。
兩周前，我見了蘇納克首相，當(dāng)時(shí)和他談?wù)摿巳斯ぶ悄埽?a class="external" href="http://www.xmqqs.cn/tag/8384" title="查看與 我問 相關(guān)的文章" target="_blank">我問他試圖通過AI安全研究所達(dá)成什么目標(biāo)。他充滿熱情，希望英國能成為人工智能安全領(lǐng)域的領(lǐng)導(dǎo)者，但實(shí)際上這是一個(gè)全球性問題。而且我認(rèn)為很多研究應(yīng)該在大學(xué)里進(jìn)行，由商業(yè)公司來支付費(fèi)用，然后由政府來監(jiān)管技術(shù)的開發(fā)，而且政府需要派人到人工智能的最前沿，以便了解正在發(fā)生什么并進(jìn)行監(jiān)管。
別讓ChatGPT做簡單數(shù)學(xué)題
澎湃新聞：您既參與了2017年英國人工智能獨(dú)立報(bào)告的制定，也參與了聯(lián)合國人工智能高級(jí)別咨詢機(jī)構(gòu)的AI治理工作，如何看待歐盟最新發(fā)布的人工智能法案？一些科技公司指責(zé)這樣的法案會(huì)打擊創(chuàng)新，您怎么看？
溫迪·霍爾：我們必須在創(chuàng)新和監(jiān)管之間找到正確的平衡。我認(rèn)為英國的手段太軟了，當(dāng)然也對(duì)創(chuàng)新比較友好。實(shí)際上不管是歐盟還是英國制定的監(jiān)管方案，確保安全的目標(biāo)是一致的，只是實(shí)現(xiàn)的手段不同。
我們必須要有強(qiáng)力的法規(guī)，如果只是科技公司自我監(jiān)管是不夠的。就像煙草行業(yè)，人們都知道吸煙的害處，但如果不制定相關(guān)法規(guī)，煙草公司為了盈利會(huì)以自己的方式制造和銷售香煙。不同國家的法律會(huì)有所不同，但我們需要在聯(lián)合國層面上形成一定的原則，各國可以在這樣的原則基礎(chǔ)上制定自己的法規(guī)。
澎湃新聞：您在社交平臺(tái)上分享了一份有關(guān)深度偽造（Deepfake）的聯(lián)名書，呼吁制定新的法律法規(guī)，保護(hù)人們免受深度造假的危害?，F(xiàn)在深度偽造帶來的哪些危害值得重點(diǎn)關(guān)注？應(yīng)該從哪些方面努力去應(yīng)對(duì)這種危害？
溫迪·霍爾：可以看到今年有很多國家舉行選舉，我們很擔(dān)心深度偽造會(huì)改變?nèi)藗冊谶x舉中的投票，現(xiàn)在通過任何法律或技術(shù)都很難解決這個(gè)問題。比如有專家提到可以運(yùn)用水印來防止偽造，實(shí)際上水印也很容易破解。
我認(rèn)為每個(gè)人都應(yīng)該意識(shí)到人工智能能做什么以及它如何被濫用來制造虛假信息和深度偽造。我們不能期望政府做所有事情，而且也不希望政府和科技公司成為審查者。真正困難的是，誰來判定某件事或某個(gè)信息的真實(shí)性，而且這也涉及到言論自由和隱私的問題。因此還是要回歸到人們的意識(shí)問題，需要每個(gè)人都認(rèn)識(shí)到人工智能應(yīng)該如何被正當(dāng)使用。
澎湃新聞：您在演講中提到生成式人工智能工具ChatGPT改變了很多，在開發(fā)和使用生成式人工智能的進(jìn)程中有哪些需要關(guān)注的風(fēng)險(xiǎn)或盲區(qū)？
溫迪·霍爾：我想強(qiáng)調(diào)人工智能的耗能問題，它的龐大電力需求是一個(gè)值得關(guān)注的問題。人們很多時(shí)候不正當(dāng)?shù)厥褂?a class="external" href="http://www.xmqqs.cn/tag/2668" title="查看與 生成式 相關(guān)的文章" target="_blank">生成式人工智能，對(duì)ChatGPT提出極其簡單的請(qǐng)求，比如輸入簡單的算術(shù)題，這太瘋狂了。我們需要負(fù)責(zé)任地使用人工智能，一些在搜索引擎中可以查找的信息不需要用資源密集型的生成式人工智能來完成。當(dāng)公司銷售產(chǎn)品時(shí)，不應(yīng)該說現(xiàn)在可以用這個(gè)來做所有事情，而應(yīng)該思考如何確保以一種負(fù)責(zé)任的方式使用它。
當(dāng)然，對(duì)于人工智能的發(fā)展我還是比較樂觀的，重要的是要看怎么樣和人工智能進(jìn)行合作，比如AI在糧食安全、氣候變化、能源、醫(yī)療衛(wèi)生方面已經(jīng)有很多突破，這是很棒的進(jìn)展。我們要支持人工智能向好的方向發(fā)展，要建立一個(gè)機(jī)制去確保安全，這是一個(gè)漫長的旅程，我們不應(yīng)該反對(duì)人工智能，而是要和人工智能進(jìn)行協(xié)作，因?yàn)槿斯ぶ悄芸梢詭椭祟愑幸粋€(gè)更好的未來。
? 版權(quán)聲明

相關(guān)文章