當(dāng)?shù)貢r(shí)間周三，伊利亞 · 蘇茨克維（Ilya Sutskever），OpenAI 的聯(lián)合創(chuàng)始人兼前首席科學(xué)家，在離開(kāi) OpenAI 后，正式宣布了單飛后的新 AI 創(chuàng)業(yè)項(xiàng)目——” 安全超級(jí)智能 “（Safe Superintelligence，簡(jiǎn)稱(chēng) SSI）.

安全的超級(jí)智能

蘇茨克維他與前 OpenAI 員工 Daniel Levy 和 AI 投資者兼企業(yè)家 Daniel Gross 共同創(chuàng)立了這家初創(chuàng)公司。

據(jù)公告稱(chēng)，SSI 為一家 ” 將安全和能力同步 ” 的初創(chuàng)公司，公司將快速推進(jìn)其人工智能系統(tǒng)，同時(shí)仍然優(yōu)先考慮安全。

報(bào)告還指出了 OpenAI、谷歌和 Microsoft 等公司的人工智能團(tuán)隊(duì)經(jīng)常面臨的外部壓力，稱(chēng)該公司的 ” 單一關(guān)注點(diǎn) ” 使其能夠避免 ” 管理開(kāi)銷(xiāo)或產(chǎn)品周期的干擾 “。

SSI 的目標(biāo)是 ” 一步到位 ” 地創(chuàng)造一個(gè)安全的超級(jí)智能，專(zhuān)注于開(kāi)發(fā)安全的超級(jí)智能——一種可以取代人類(lèi)認(rèn)知能力的機(jī)器智能。

SSI 的商業(yè)模式意味著安全、保障和進(jìn)步都不受短期商業(yè)壓力的影響。公司將不會(huì)因管理開(kāi)銷(xiāo)或產(chǎn)品周期而分心，致力于實(shí)現(xiàn)其唯一的目標(biāo)——安全的超級(jí)智能。

蘇茨克維表示，SSI 將是一個(gè)純粹的研究機(jī)構(gòu)，直接創(chuàng)造一個(gè)安全、強(qiáng)大的人工智能系統(tǒng)，同時(shí)不會(huì)在短期內(nèi)推出任何商業(yè)化產(chǎn)品或服務(wù)。他強(qiáng)調(diào)，SSI 的安全性是指像核安全一樣的安全，而不是簡(jiǎn)單的 ” 信任與安全 “。

盡管 SSI 的詳細(xì)計(jì)劃和資金來(lái)源尚未公開(kāi)，但蘇茨克維和他的團(tuán)隊(duì)已經(jīng)明確了他們的愿景和目標(biāo)。他們希望通過(guò)集中精力和資源，構(gòu)建一個(gè)真正安全、能夠?yàn)槿祟?lèi)帶來(lái)積極影響的超級(jí)智能系統(tǒng)。

回歸 OpenAI 的初心

蘇茨克維在 OpenAI 的早期領(lǐng)導(dǎo)地位中發(fā)揮了重要作用，特別是在生成式人工智能領(lǐng)域。

然而，去年 11 月，他與其他董事會(huì)成員迫使首席執(zhí)行官薩姆 · 奧特曼（Sam Altman）下臺(tái)，原因是對(duì)公司未來(lái)的發(fā)展方向和安全問(wèn)題存在分歧。盡管后來(lái)奧特曼重新?lián)问紫瘓?zhí)行官，蘇茨克維實(shí)際上從董事會(huì)辭職，并在 5 月離開(kāi)了 OpenAI。

OpenAI 在 2015 年成立時(shí)與 SSI 有著相似的使命，當(dāng)時(shí)它是一個(gè)非營(yíng)利性研究實(shí)驗(yàn)室，旨在創(chuàng)造造福人類(lèi)的超級(jí)智能 AI。雖然 Altman 聲稱(chēng)這仍然是 OpenAI 的指導(dǎo)原則，但在他的領(lǐng)導(dǎo)下，該公司已經(jīng)變成了一家快速增長(zhǎng)的企業(yè)。

但蘇茨克維在離開(kāi) OpenAI 時(shí)表示，他對(duì)接下來(lái)的事情感到興奮，并將分享細(xì)節(jié)。他相信，在奧特曼等人的帶領(lǐng)下，OpenAI 將構(gòu)建出安全又有益的通用人工智能（agi）。

盡管如此，SSI 的成立顯示了蘇茨克維對(duì) AI 安全問(wèn)題的深刻關(guān)注，以及他希望以一種不受商業(yè)壓力影響的方式推進(jìn) AI 技術(shù)的決心。