亚洲av无码成h人动漫无遮挡,特级欧美aaaaaaa免费观看,丝袜制服av熟女♀,亚洲avav天堂av在线网阿v,少妇人妻真实偷人精品视频

服務(wù)器能耗暴漲三倍!AI最后拼的不是算力,是電力?

AIGC行業(yè)資訊2年前 (2023)發(fā)布 編輯員
1.2K 0

算力、能耗雙雙發(fā)出警報(bào)。

算力是AI世界發(fā)展的基礎(chǔ),而算力的瓶頸歸根到底還是電力,ChatGPTAI大模型訓(xùn)練起來(lái)到底多費(fèi)電?

7月15日,根據(jù)Digital Information World發(fā)布的最新報(bào)告,數(shù)據(jù)中心為訓(xùn)練AI模型產(chǎn)生的能耗將為常規(guī)云工作的三倍,預(yù)計(jì)到2030年,美國(guó)數(shù)據(jù)中心的電力需求將以每年約10%的速度增長(zhǎng)。

服務(wù)器能耗暴漲三倍!AI最后拼的不是算力,是電力?

數(shù)據(jù)顯示,OpenAI訓(xùn)練GPT-3耗電為1.287吉瓦時(shí),大約相當(dāng)于120個(gè)美國(guó)家庭1年的用電量。而這僅僅是訓(xùn)練AI模型的前期電力,僅占模型實(shí)際使用時(shí)所消耗電力的40%。

2023年1月,OpenAI僅一個(gè)月已耗用可能等同17.5萬(wàn)個(gè)丹麥家庭的全年用電量。谷歌AI每年耗電量達(dá)2.3太瓦時(shí),相當(dāng)于亞特蘭大所有家庭1年用電量。

據(jù)了解,AI服務(wù)器的功率較普通服務(wù)器高6-8倍,這對(duì)于電源的需求也將同步提升,通用型服務(wù)器原來(lái)只需要2顆800W服務(wù)器電源,而AI服務(wù)器的需求直接提升為4顆1800W高功率電源,服務(wù)器能耗成本直接3100元直接飆升到12400元,大漲3倍。

服務(wù)器能耗暴漲三倍!AI最后拼的不是算力,是電力?

數(shù)據(jù)中心客戶為此支付的電費(fèi)也更為高昂。市場(chǎng)研究公司Synergy Research Group的首席分析師John Dinsdale坦言,數(shù)據(jù)中心運(yùn)營(yíng)商正將運(yùn)行AI應(yīng)用程序產(chǎn)生的額外成本直接轉(zhuǎn)嫁到客戶身上。

一些數(shù)據(jù)中心的運(yùn)營(yíng)商們趁機(jī)提高商業(yè)租賃價(jià)格,以應(yīng)對(duì)為運(yùn)行日益能源密集型工作負(fù)載的計(jì)算機(jī)服務(wù)器組群(stack)供電和散熱而產(chǎn)生的額外成本。

據(jù)全球最大商業(yè)房地產(chǎn)服務(wù)公司之一的世邦魏理仕(CBRE Group)統(tǒng)計(jì),數(shù)據(jù)中心客戶囊括了小型企業(yè)到大型云服務(wù)供應(yīng)商,目前消耗電力的速度快于數(shù)據(jù)中心運(yùn)營(yíng)商擴(kuò)展容量的速度。由于人工智能用例的增加,供應(yīng)限制日益嚴(yán)重,這為數(shù)據(jù)中心收取的價(jià)格帶來(lái)了上行壓力。

在強(qiáng)大的電力需求下,據(jù)世邦魏理仕統(tǒng)計(jì),今年前三個(gè)月,美國(guó)北弗吉尼亞州的數(shù)據(jù)中心客戶每月每千瓦電力支付的費(fèi)用高達(dá)140美元,比一年前的130美元增長(zhǎng)了7.7%。

“吃電”的大模型

據(jù)咨詢機(jī)構(gòu)Tirias Research建模預(yù)測(cè),到2028年數(shù)據(jù)中心功耗將接近4250兆瓦,比2023年增加212倍,數(shù)據(jù)中心基礎(chǔ)設(shè)施加上運(yùn)營(yíng)成本總額或超760億美元。

這堪稱“生成式AI顛覆數(shù)據(jù)中心”,其增長(zhǎng)對(duì)新興服務(wù)(例如搜索、內(nèi)容創(chuàng)建和結(jié)合生成式AI的業(yè)務(wù)自動(dòng)化)的商業(yè)模式和盈利能力都提出了挑戰(zhàn),成本更是亞馬遜AWS年運(yùn)營(yíng)成本的兩倍多。

這堪稱“生成式AI顛覆數(shù)據(jù)中心”,其增長(zhǎng)對(duì)新興服務(wù)(例如搜索、內(nèi)容創(chuàng)建和結(jié)合生成式AI的業(yè)務(wù)自動(dòng)化)的商業(yè)模式和盈利能力都提出了挑戰(zhàn),成本更是亞馬遜AWS年運(yùn)營(yíng)成本的兩倍多。

該機(jī)構(gòu)稱,生成式AI帶來(lái)的種種創(chuàng)新功能,都是以處理性能和功耗方面的高昂成本為代價(jià)。因此,雖然人工智能的潛力可能是無(wú)限的,但物理和成本最終可能是界限。

為了降低成本,該機(jī)構(gòu)建議,可使用高度優(yōu)化、甚至是更簡(jiǎn)單、更專業(yè)的小型神經(jīng)網(wǎng)絡(luò)模型來(lái)降低數(shù)據(jù)中心成本,方法是減少云端的模型規(guī)模,將海量參數(shù)網(wǎng)絡(luò)用于快速訓(xùn)練較小的模型,并將工作負(fù)載完全移出云端,從而將生成式AI應(yīng)用程序更加經(jīng)濟(jì)高效地分發(fā)給智能手機(jī)、PC、車輛和移動(dòng)XR產(chǎn)品等分布式平臺(tái)上運(yùn)行:

“五年前,各公司在年度Hot Chips半導(dǎo)體技術(shù)會(huì)議上開始對(duì)數(shù)據(jù)中心功耗敲響警鐘,當(dāng)時(shí)預(yù)測(cè)全球計(jì)算需求可能在十年內(nèi)超過(guò)全球發(fā)電總量。那還是在生成式AI迅速采用之前,而生成式AI有可能以更快的速度增加計(jì)算需求。

天下沒有免費(fèi)的午餐——消費(fèi)者會(huì)要求更好的生成式AI輸出,而這將抵消效率和性能的提升。隨著消費(fèi)者使用量的增加,成本將不可避免地攀升。將計(jì)算轉(zhuǎn)移到邊緣,并將其分配給PC、智能手機(jī)和XR設(shè)備等客戶端是降低資本和運(yùn)營(yíng)成本的關(guān)鍵途徑?!?/p>

“五年前,各公司在年度Hot Chips半導(dǎo)體技術(shù)會(huì)議上開始對(duì)數(shù)據(jù)中心功耗敲響警鐘,當(dāng)時(shí)預(yù)測(cè)全球計(jì)算需求可能在十年內(nèi)超過(guò)全球發(fā)電總量。那還是在生成式AI迅速采用之前,而生成式AI有可能以更快的速度增加計(jì)算需求。

天下沒有免費(fèi)的午餐——消費(fèi)者會(huì)要求更好的生成式AI輸出,而這將抵消效率和性能的提升。隨著消費(fèi)者使用量的增加,成本將不可避免地攀升。將計(jì)算轉(zhuǎn)移到邊緣,并將其分配給PC、智能手機(jī)和XR設(shè)備等客戶端是降低資本和運(yùn)營(yíng)成本的關(guān)鍵途徑。”

如今全球范圍內(nèi)群模大戰(zhàn),需要消耗的能源和產(chǎn)生的碳排放體量之巨大,可以想見。

按照當(dāng)前的技術(shù)路線和發(fā)展模式,AI進(jìn)步將引發(fā)兩個(gè)問(wèn)題:一方面,數(shù)據(jù)中心的規(guī)模將會(huì)越來(lái)越龐大,其功耗也隨之水漲船高,且運(yùn)行越來(lái)越緩慢

另一方面,AI芯片朝高算力、高集成方向演進(jìn),依靠制程工藝來(lái)支撐峰值算力的增長(zhǎng),制程越來(lái)越先進(jìn),其功耗和水耗也越來(lái)越大。并且,受摩爾定律約束,傳統(tǒng)計(jì)算能力已接近極限,面臨馮·諾依曼架構(gòu)瓶頸、物理微縮的挑戰(zhàn)。

這兩個(gè)問(wèn)題都將導(dǎo)致AI能耗問(wèn)題愈加嚴(yán)重。

打響電力爭(zhēng)奪戰(zhàn)

龐大的電力需求無(wú)疑將進(jìn)一步對(duì)數(shù)字基礎(chǔ)設(shè)施造成壓力,現(xiàn)有的數(shù)據(jù)中心已無(wú)法滿足AI日益增長(zhǎng)的電力需求。

去年,位于北弗吉尼亞的數(shù)據(jù)中心一度面臨停電危機(jī),能源問(wèn)題迫在眉睫。

為了解決AI能耗日益上漲的問(wèn)題,數(shù)字基礎(chǔ)設(shè)施公司DigitalBridge正計(jì)劃投入數(shù)十億美元建設(shè)并翻新用于生成式AI工作負(fù)載的數(shù)據(jù)中心。

Digital Information World認(rèn)為,下一代數(shù)據(jù)中心將比當(dāng)前弗吉尼亞及圣克拉拉市的數(shù)據(jù)中心配套設(shè)施更加全面。選址應(yīng)當(dāng)位于電力供應(yīng)不成問(wèn)題的低成本地區(qū),為了滿足AI的算力需求,數(shù)據(jù)中心運(yùn)營(yíng)商必須適應(yīng)并采用新穎的解決方案。

隨著爭(zhēng)奪AI軍備競(jìng)賽日趨白熱化,對(duì)電力的爭(zhēng)奪變得越來(lái)越重要。

生成式AI顛覆數(shù)據(jù)中心,電力需求對(duì)各大公司的商業(yè)模式和盈利能力都提出了挑戰(zhàn)。生成式AI帶來(lái)的種種創(chuàng)新,都是以處理性能和功耗方面的高昂成本為代價(jià)。

因此,雖然人工智能的潛力可能是無(wú)限的,但物理和成本最終可能是界限。各大科技公司們正在嘗試一切可能的策略來(lái)確保電力需求,為變革性的能源未來(lái)奠定基礎(chǔ)。

? 版權(quán)聲明

相關(guān)文章