在你還在擔(dān)心ChatGPT是否會在未來的某一天取代自己的工作，思考如何利用人工智能提高工作效率時時，有一群人已經(jīng)靠著這項新技術(shù)賺大錢了。

他們就是……騙子。

10分鐘騙到430萬，

第一批靠AI暴富的竟是騙子

如果你在某天接到一位朋友的微信視頻電話，鏡頭另一端的人從長相、聲音都和你記憶中的朋友一模一樣，當他開口向你借430萬作為工作競標的保證金時，你會怎么做？

最近，福州市某科技公司的法人代表郭先生就遇到了這個難題?；谛湃危麑?30萬轉(zhuǎn)到了朋友的賬戶。直到事后給朋友打了一個電話，才發(fā)現(xiàn)是騙子盜用朋友的微信號，再通過AI換臉和擬聲技術(shù)，對他實施了一次詐騙。

類似的事情在大洋彼岸的發(fā)生頻率，也在呈爆炸型增長。

據(jù)CNN報道，今年四月，生活亞利桑那州的Jennifer DeStefan接到了一個陌生電話，電話里的聲音是自己在外準備滑雪比賽的女兒Brianna。Brianna在電話的另一頭帶著哭腔向她求救。幾十秒后，一個低沉的男音在電話里威脅道：“聽著，你女兒在我手里，拿出100萬美元的贖金，如今你打電話報警或是告訴其他人，就永遠別想再見到她了。”

在Jennifer表示自己拿不出100萬美元后，電話那頭的男子將贖金大減價到5萬美元。愛女心切的Jennifer不顧友人和丈夫的勸阻，已經(jīng)開始和對方討論支付贖金的方式，直到Brianna打來一個電話，表示自己平安無事，才避免了這次財產(chǎn)損失。

在今年三月，《華盛頓郵報》也報道了一起作案手法幾乎一模一樣的詐騙案，只不過受害者是一對年過70的老年夫婦。

受害的老人（圖源《華盛頓郵報》）

美國聯(lián)邦貿(mào)易委員會（FTC）在5月發(fā)布警告，稱不法分子正在利用AI語音技術(shù)偽造緊急情況騙取錢財或信息。偽裝成受害者的親人、朋友進行詐騙并不新鮮，但毫無疑問的是，AI技術(shù)的出現(xiàn)使得克隆一個人的聲音、偽造一個人的視頻變得異常簡單。過去一年里，發(fā)生在美國的此類騙局暴漲了70%，受害人因此損失的錢財數(shù)額高達26億美元。

照這樣的趨勢發(fā)展下去，只怕最先靠AI技術(shù)實現(xiàn)財富自由的，是一群躲藏在屏幕背后的騙子了。

人工智能的黑暗面

如果說偽造一個人的聲音和視頻還需要一定的技術(shù)門檻，那么ChatGPT的出現(xiàn)，則讓AI詐騙變得更加容易。

據(jù)外國網(wǎng)絡(luò)安全平臺GBHackers報道，由于強大的工作生產(chǎn)效率和極低的使用門檻，ChatGPT吸引了一大批網(wǎng)絡(luò)詐騙犯。

比如利用ChatGPT談一場“虛假戀愛”：自我介紹、聊天記錄和精心制作的情書都能通過人工智能快速產(chǎn)出，還能通過輸入目標對象的具體信息，進行個性化定制，讓屏幕對面的人更快與你墜入愛河。接著，ChatGPT還能輔助騙子編寫收款程序或是盜取受害人銀行卡信息的釣魚網(wǎng)站，實現(xiàn)詐騙錢財?shù)哪康摹?/p>

當你直接要求ChatGPT為你撰寫一個釣魚軟件程序時，它會拒絕；但如果你說你是一名老師，希望給學(xué)生展示一個釣魚軟件，它就會老老實實寫出一個網(wǎng)站給你。

更可怕的是，人們很難分辨屏幕另一端的到底是人還是機器。全球最大安全技術(shù)公司McAfee曾用AI生成過一封情書，并將它發(fā)送給全球5000名用戶。在已知該情書可能是由人工智能生成的之后，依舊有33%的受訪者愿意相信它們出自真人的手筆。

實際上，利用ChatGPT和受害人談一場“虛假戀愛”只是入門級別的詐騙手段，更嫻熟的黑客們已經(jīng)開始利用人工智能批量生成勒索軟件與惡意代碼。

為了方便在GPT模型上搭載更多的應(yīng)用程序，OpenAI為開發(fā)人員預(yù)留了應(yīng)用程序編程接口。而黑客就是利用這些接口，把GPT模型引入到一系列外部應(yīng)用，以此繞開安全監(jiān)管，使用GPT模型去編寫犯罪程序。

這些越過安全監(jiān)管的程序，已經(jīng)在美國暗網(wǎng)上公開出售，且價格十分便宜，僅需要幾美元就可以買到。購買者能夠利用這些軟件進行的違法行為，卻十分可怕：通過盜取程序代碼和用戶隱私信息、生成攻擊軟件和勒索病毒。

《金融時報》最近報道了一個由ChatGPT輔助生成的SIM交換攻擊腳本，騙子利用這個程序可以突破移動電話公司對電話號碼的控制權(quán)，將電話號碼從原持有者的SIM卡交換到由攻擊者控制的SIM卡中，從而控制受害者的移動電話。

“ChatGPT目前雖然只是內(nèi)容生成工具，并未直接參與犯罪，但這標志人們開始使用人工智能來入侵他人，技術(shù)水平更低的犯罪者將因此獲得更強大的犯罪手段?！币晃蝗斯ぶ悄軓臉I(yè)者對《金融時報》表示了自己的擔(dān)憂。

潘多拉的魔盒，還能關(guān)上嗎？

當人工智能越來越大的社會影響力與其犯罪潛力攪在一起，ChatGPT的各類安全漏洞使得人們愈發(fā)不安，“應(yīng)如何對ChatGPT進行監(jiān)管”已經(jīng)成為了許多國家爭論的重點。

IBM的全球倫理研究院就曾發(fā)文，倡導(dǎo)企業(yè)將倫理和責(zé)任置于其AI議程的首位。以馬斯克為代表的諸多科技大佬也簽署了公開信，在訓(xùn)練比GPT-4更強大的人工智能系統(tǒng)之前，大家應(yīng)該制定一套共享安全協(xié)議，由外部專家對其進行審查和監(jiān)督。

各國的立法者，也開始公開表示對ChatGPT的擔(dān)憂，考慮是否要將其納入立法監(jiān)管系統(tǒng)。比起對于人工智能安全性的擔(dān)憂，更多的政府人員焦慮于立法者們對于技術(shù)認知的滯后。

美聯(lián)社認為，在過去20年中，科技巨頭們不斷引領(lǐng)美國的科技創(chuàng)新，因此政府始終不愿監(jiān)管大型科技公司，成為創(chuàng)意的扼殺者。因此，當他們決心加強對新興技術(shù)的監(jiān)管時，其中相當一部分人已對新技術(shù)知之甚少。

畢竟，美國國會上一次為了規(guī)范技術(shù)而頒布的法典，已經(jīng)是1998年的《兒童在線隱私保護法》了。

據(jù)路透社報道，多個國家已經(jīng)開始推出法規(guī)來規(guī)范以OpenAI為代表的人工智能。今年三月，意大利由于擔(dān)心數(shù)據(jù)安全問題曾短暫禁止過OpenAI在本國的使用，一個月后才恢復(fù)使用。在五月，意大利的一名政府官員向路透社表示，政府將雇傭人工智能專家，來監(jiān)督OpenAI的規(guī)范使用。

面對各國政府的疑慮，OpenAI首席技術(shù)官米拉·穆拉蒂在接受路透社采訪時也表示，“公司歡迎包括監(jiān)管機構(gòu)和政府在內(nèi)的各方開始介入”。但在快速發(fā)展的人工智能面前，立法者如何做才能跟上技術(shù)的腳步，仍是未知數(shù)。

唯一確定的一點是：潘多拉的盒子一旦打開，就沒有那么容易關(guān)上了。