當?shù)貢r間周二（5月28日），OpenAI發(fā)布公告稱董事會成立一個負責把控AI開發(fā)方向的安全顧問委員會。

圖片來源：OpenAI

OpenAI成立新的安全顧問委員會 成員全是自己人

OpenAI周二宣布成立一個新的安全顧問委員會，負責監(jiān)督與公司項目和運營相關(guān)的“關(guān)鍵”安全和安保決策。而值得注意的是，進入該安全顧問委員會的成員全部為該公司內(nèi)部人員，包括董事Bret Taylor（主席）、Adam D’Angelo、Nicole Seligman和Sam Altman（首席執(zhí)行官），外部人員一個也沒有。該委員會將負責向全體董事會就OpenAI項目和運營的關(guān)鍵安全和安全決策提出建議。

安全與安全委員會的首要任務(wù)將是在未來90天內(nèi)評估并進一步發(fā)展OpenAI的流程和保障措施。90天結(jié)束時，安全與安全委員會將與全體董事會分享他們的建議。在全體董事會審查之后，OpenAI將以符合安全和安全的方式，公開分享有關(guān)采納建議的更新。

OpenAI董事會表示，OpenAI的技術(shù)與政策專家Aleksander Madry（準備狀況負責人）、Lilian Weng（安全系統(tǒng)負責人）、John Schulman（對齊科學負責人）、Matt Knight（安全負責人）以及Jakub Pachocki（首席科學家）也將加入該委員會。

此外，OpenAI將保留并咨詢其他安全、安全和技術(shù)專家以支持這項工作，包括前網(wǎng)絡(luò)安全官員Rob Joyce，他為OpenAI提供安全方面的咨詢，以及John Carlin。

過去幾個月，OpenAI的技術(shù)團隊中有多名安全方面的高層人員離職，這些前員工中有些人對OpenAI在AI安全方面的優(yōu)先級下降表示擔憂。

曾在OpenAI擔任團隊治理工作的Daniel Kokotajlo在4月辭職，因為他對OpenAI在發(fā)布越來越強大的AI時“負責任的行為”失去了信心，他在個人博客上寫道。此外，OpenAI的聯(lián)合創(chuàng)始人兼前首席科學家Ilya Sutskever在與Altman及其盟友的長期斗爭后，于5月離職，據(jù)報道部分原因是Altman急于推出AI驅(qū)動的產(chǎn)品而犧牲了安全性能。

最近，前DeepMind研究員Jan Leike此前在OpenAI負責開發(fā)ChatGPT及其前身InstructGPT的過程中，也辭去了安全研究員職務(wù)，他在一系列X平臺的帖子中表示，他認為OpenAI“未走在解決AI安全和安保問題的正確軌道上”。同時，AI政策研究員Gretchen Krueger上周離開OpenAI，她也同意Leike的觀點，呼吁公司提高問責制和透明度，并“更加謹慎地使用自己的技術(shù)”。

媒體報道，除了Sutskever、Kokotajlo、Leike和Krueger，自去年年底以來，至少有五名OpenAI最重視安全的員工要么辭職，要么被迫離開，包括前OpenAI董事會成員Helen Toner和Tasha McCauley。兩人日前在媒體撰文稱，在Altman的領(lǐng)導下，他們相信OpenAI無法實現(xiàn)對自身追究責任。

圖片來源：視覺中國-VCG31N2008743681

OpenAI宣布已啟動下一代前沿模型訓練 AGI愿景變得更加務(wù)實

值得注意的是，還有一條重磅消息：OpenAI在公告中表示，最近開始訓練其下一代前沿模型，以期超越目前的GPT-4大模型。我們預(yù)計這些系統(tǒng)將使我們在通往人工通用智能（AGI）的道路上達到更高的能力水平。雖然我們自豪地構(gòu)建并發(fā)布了在能力和安全性方面都處于行業(yè)領(lǐng)先地位的模型，但我們在這個重要時刻歡迎一場激烈的辯論。

作為背景，OpenAI在2023年3月發(fā)布GPT-4。單單憑借總裁布洛克曼畫在筆記本上的草圖，GPT-4就能構(gòu)建出一個真實的網(wǎng)站。相信有不少股民，也是從看到這一幕后才開始相信“AI或許真的能改變些什么”。

圖片來源：OpenAI

自那以后，OpenAI圍繞著GPT-4逐步推出一系列文字、圖片、音頻和視頻生成應(yīng)用。就在兩周前，公司剛剛發(fā)布了最新版本的GPT-4o。通過顯著提高模型的交互速率，實現(xiàn)了像真人對話一樣的“實時互動”。歸根結(jié)底，各方面都稍強一些的GPT-4o依然沒有跳脫出GPT-4的能力范疇。

正因如此，外界對于“GPT-5”的期待一直頗高。不過根據(jù)OpenAI最新的表述，下一代大模型恐怕要到明年才能與公眾見面。AI模型通常需要數(shù)月、乃至幾年時間來訓練，而在面向公眾發(fā)布前，開發(fā)團隊還需要進行數(shù)月的微調(diào)。

隨著OpenAI構(gòu)建的AI越來越接近人類智慧的水平，公司在通用人工智能方面的表述也變得更加謹慎。

OpenAI全球事務(wù)副總裁Anna Makanju表示，OpenAI的使命是構(gòu)建可以做到“當前人類認知水平”任務(wù)的通用智能。

早些年Sam Altman曾說過，OpenAI的最終目標是構(gòu)建比人類更加先進的“超級智能”。他還曾表示，自己有一半的時間是在構(gòu)想如何打造“超級人工智能”。