前面一段時間，小編向大家介紹過，隨著最近GPT-4語言模型的正式投入使用，ChatGPT也帶來了全新的插件——網(wǎng)絡(luò)瀏覽器和代碼解釋器，賦予ChatGPT使用工具、聯(lián)網(wǎng)、運(yùn)行計算的能力。

更新后，根據(jù)全球媒體的反饋來看，GPT-4相較于GPT-3.5確實(shí)有很大的性能提升，但越來越快的發(fā)展速度可以加重了用戶對于個人信息安全的擔(dān)憂，并且對ChatGPT是否可控提出了質(zhì)疑。

此前，據(jù)搜狐科技報道稱，Meta公司負(fù)責(zé)人馬克?扎克伯格（Mark Zuckerberg）、OpenAI 首席執(zhí)行官薩姆?阿爾特曼（Sam Altman）公開表示，支持歐盟市場專員蒂埃里?布雷頓（Thierry Breton）推動的人工智能技術(shù)監(jiān)管方案。

據(jù)悉，扎克伯格和布雷頓在一場會議中，就政府評估 AI 風(fēng)險、以及監(jiān)管 AI 技術(shù)發(fā)展達(dá)成一致意見。

阿爾特曼隨后也表示支持歐盟的AI監(jiān)管方案，并稱很感謝歐盟機(jī)構(gòu)的重視和遠(yuǎn)見，期待與布雷頓合作，幫助其在歐洲推行滿足本土市場需求的服務(wù)。

此外，布雷頓還會見英偉達(dá)首席執(zhí)行官黃仁勛、Twitter 所有者埃隆?馬斯克和新任 Twitter 首席執(zhí)行官琳達(dá)?亞卡里諾，要求共同探討和推進(jìn)AI監(jiān)管。

近日，據(jù)相關(guān)媒體消息，當(dāng)?shù)貢r間周三，ChatGPT的開發(fā)者OpenAI表示計劃投入更多資源并成立新的研究團(tuán)隊，研究如何確保AI對人類的安全性，最終實(shí)現(xiàn)用AI來監(jiān)督AI。

OpenAI 聯(lián)合創(chuàng)始人伊利亞?蘇茨凱弗和AI對齊負(fù)責(zé)人簡?萊克在官方博客中表示：“超級智能的巨大能力可能導(dǎo)致人類失去力量甚至滅絕。目前，我們還沒有解決方案來操縱或控制一個可能的超智能AI，并防止其變成無賴?！?/p>

博文預(yù)測，超智能AI，即相比于人類更智能的系統(tǒng)，可能會在未來10 年中出現(xiàn)。

人類需要比目前更強(qiáng)大的技術(shù)來控制超智能AI，因此需要在“AI對齊研究”方面取得突破，確保人AI對人類持續(xù)有益。AI對齊是AI控制中的主要問題，即要求AI的目標(biāo)和人類的價值觀與意圖保持一致。

作者寫道，OpenAI將在未來4年內(nèi)，將算力的20%專門用于解決這方面問題。此外，該公司將組建新的“超對齊”團(tuán)隊來組織這方面的工作。

該團(tuán)隊的目標(biāo)是開發(fā)達(dá)到“人類水平”，由AI驅(qū)動的對齊研究員，隨后通過龐大的算力推動其發(fā)展。OpenAI表示，這意味著將使用人工反饋來訓(xùn)練AI系統(tǒng)，通過訓(xùn)練AI系統(tǒng)來協(xié)助人工評估，最終訓(xùn)練AI系統(tǒng)來進(jìn)行實(shí)際的對齊研究。

不過，人工智能安全的倡導(dǎo)者康納?萊希表示，OpenAI的計劃存在根本性缺陷，因?yàn)樽畛醯娜祟愃紸I可能會失控并造成嚴(yán)重破壞，而這將迫使研究者去解決AI安全問題。他在接受采訪時表示：“在構(gòu)建人類水平的智能之前，必須先解決對齊問題，否則默認(rèn)情況下你無法控制它。我個人認(rèn)為這不是個特別好的、安全的計劃。”

目前全世界對于AI的安全性關(guān)注度非常高，不少消息和相關(guān)措施也在快速發(fā)布，感興趣的小伙伴可以保持關(guān)注。