亚洲av无码成h人动漫无遮挡,特级欧美aaaaaaa免费观看,丝袜制服av熟女♀,亚洲avav天堂av在线网阿v,少妇人妻真实偷人精品视频

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

AIGC行業(yè)資訊2年前 (2023)更新 編輯員
1.7K 0

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段。
去年年底,ChatGPT爆火出圈讓大眾意識到了語言模型的智能與魅力,隨后國內(nèi)外科技巨頭與AI企業(yè)接連響應(yīng),推出自家AI聊天機器人。但To C只是第一戰(zhàn)場,如今科技巨頭們正將鏖戰(zhàn)焦點轉(zhuǎn)向更大的戰(zhàn)場——To B的企業(yè)AI大模型服務(wù)。
隨著多家云計算大廠公布AI大模型服務(wù),一個關(guān)鍵難題擺在想要將大模型能力與自身業(yè)務(wù)做結(jié)合的企業(yè)面前:怎么選?
換句話說,怎么衡量大模型的優(yōu)劣?有哪些可以參考維度?可能不少人的第一反應(yīng)是看算力,畢竟ChatGPT從底座大模型訓(xùn)練到上線后的每日運行都非常燒錢。的確,沒有算力優(yōu)勢是萬萬不行的,但這并不代表著“得算力者得天下”,除了算力之外,進入大模型落地期后,企業(yè)更需關(guān)注的是大模型全生命周期的綜合體驗
這就好比買手機時,大家會首先關(guān)心跑分,因為跑分越高意味著性能越好。但跑分并不等同于使用體驗,在跑分相差不多時,手機的實際體驗跟系統(tǒng)、UI設(shè)計、應(yīng)用程序、隱私安全、續(xù)航能力、售后服務(wù)等很多因素掛鉤。
企業(yè)選用大模型也是類似的,不僅要看算力,還要看綜合體驗和實效,包括大模型本身能力、大模型企業(yè)服務(wù)能力、全棧技術(shù)積累程度等。
當(dāng)前企業(yè)在云平臺上選用大模型服務(wù),主要需求可分成三類:一是使用大模型的能力,實現(xiàn)自家產(chǎn)品和服務(wù)的升級;二是基于既有大模型微調(diào)出面向特定場景的專屬大模型;三是租賃算力。
在這種情況下,要衡量大模型服務(wù),具體可以參考哪些維度?下面我們將拆解來看。
01.
大模型落地,企業(yè)怎么選?
六大關(guān)鍵參考維度

?

大模型服務(wù)好不好,可以看一些硬指標(biāo)。
一是高效性。影響大模型訓(xùn)練和推理效率的主要因素涉及整個IT技術(shù)棧,需要由算力、框架、模型(包括豐富的大模型體系)、應(yīng)用構(gòu)筑的四層架構(gòu)相互配合提供支撐,形成很強的協(xié)同作用和高效的反饋閉環(huán),幫助大模型調(diào)優(yōu)迭代、降本增效。反映到實際數(shù)據(jù)上,可以重點關(guān)注千卡加速比、異構(gòu)資源利率、模型開發(fā)迭代效率等參數(shù)。
ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力
以在這四層IT架構(gòu)的每一層都做了重資產(chǎn)投入的百度為例,據(jù)百度集團副總裁侯震宇昨日在文心大模型技術(shù)交流會上分享,百度是全球唯一在這四層架構(gòu)的各個層面都擁有領(lǐng)先自研產(chǎn)品的公司。百度AI大底座的千卡并行線性加速比達到90%以上,訓(xùn)練資源利用率超過70%,模型開發(fā)迭代效率提升100%。
二是易用性。即上手門檻有多高,這是影響客戶體驗的核心因素,包括有沒有與實際業(yè)務(wù)需求匹配的服務(wù)模式、能否提供從開箱即用到深度定制的服務(wù)和工具,交付和部署方式是否靈活等。
三是全面性,包括是否覆蓋大模型全生命周期(從訓(xùn)練大模型到用好大模型)的開發(fā)、管理、應(yīng)用集成服務(wù)。
四是安全性。這也是越來越多企業(yè)關(guān)心的問題,最近三星為了防止企業(yè)機密泄露還下達了“AI聊天機器人封殺令”。因此大模型服務(wù)必須有完備的安全機制,來確保模型輸入輸出穩(wěn)定,保障數(shù)據(jù)安全。此外是否完全自主可控也影響安全性。
五是開放性。有的大模型服務(wù)支持的大模型類型有限,有的則不僅支持自研大模型,還支持多種開源大模型及其他第三方大模型。
六是擴展性。如果大模型服務(wù)支持集成更多插件,并能夠?qū)Σ寮龈嗑幣?,則能通過外掛應(yīng)用的方式,更好地拓展大模型能力邊界。
02.
全能型的大模型廚房:?
既能直接用,又能自生產(chǎn)

?

目前,企業(yè)應(yīng)用大模型面臨諸多難點:模型體積大,訓(xùn)練難度高;算力規(guī)模大,性能要求高;數(shù)據(jù)規(guī)模大,數(shù)據(jù)質(zhì)量參差不齊……對此,云計算企業(yè)需將模型開發(fā)、訓(xùn)練、調(diào)優(yōu)、運營等復(fù)雜過程封裝起來,通過低門檻、高效率的企業(yè)級服務(wù)平臺深入產(chǎn)業(yè),來為千行百業(yè)提供服務(wù)。
自3月16日文心一言邀請內(nèi)測以來,百度在“AI大模型+云服務(wù)”上的排兵布陣一直備受關(guān)注。昨日,百度智能云終于公開交卷,宣布其正在內(nèi)測的“文心千帆大模型平臺”將提供兩種服務(wù):一是以文心一言為核心,提供大模型服務(wù),幫助客戶改造產(chǎn)品和生產(chǎn)流程;二是支持企業(yè)基于任何開源或閉源的大模型,開發(fā)自己的專屬大模型。

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

百度集團副總裁侯震宇說,文心千帆大模型平臺是全球首個一站式的企業(yè)級大模型平臺。所謂“一站式”是指不僅提供大模型服務(wù),還提供大模型開發(fā)和應(yīng)用的整套工具鏈,并支持各類第三方大模型,未來將成為大模型生產(chǎn)和分發(fā)的集散地。
文心千帆就相當(dāng)于是一個“大模型廚房”,你可以直接端走做好的大模型菜肴成品(比如文心一言大模型),再稍微加點調(diào)料就能端給客戶享用;你也可以自帶食材、廚師,使用文心千帆提供的完整灶臺和豐富的工具自己做菜。
從易用性來看,文心千帆提供的服務(wù)已經(jīng)能夠覆蓋絕大多數(shù)企業(yè)訴求。目前該平臺提供公有云服務(wù)、私有化部署兩大交付模式,私有化部署能滿足對數(shù)據(jù)監(jiān)管有嚴(yán)格要求的企業(yè)需求。

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

其公有云服務(wù)將提供:推理(直接調(diào)用大模型的推理能力)、微調(diào)(通過高質(zhì)量精標(biāo)業(yè)務(wù)數(shù)據(jù),高效訓(xùn)練出特定行業(yè)的大模型)、托管(將模型發(fā)布在百度智能云,以實現(xiàn)更加穩(wěn)定高效的運行)三種服務(wù),大降企業(yè)部署大模型的門檻。
為了直觀展示微調(diào)大模型的操作,百度智能云AI與大數(shù)據(jù)平臺總經(jīng)理忻舟在現(xiàn)場演示了微調(diào)行業(yè)專屬大模型的全過程。使用文心千帆的可視化開發(fā)工具鏈,企業(yè)用少量數(shù)據(jù)即可發(fā)起模型微調(diào),最快幾分鐘就能訓(xùn)出專屬大模型。
其私有化部署將提供:軟件授權(quán)(提供在企業(yè)環(huán)境中運行的大模型服務(wù))、軟硬一體(提供整套大模型服務(wù)及對應(yīng)的硬件基礎(chǔ)設(shè)施),租賃軟硬件服務(wù)(提供機器和平臺的租賃,滿足客戶低頻需求)三種方式。
無論是哪種服務(wù),都有助于提升大模型開發(fā)和應(yīng)用的效率,讓企業(yè)能更快地將算力更高效地轉(zhuǎn)化成企業(yè)效益。
從高效性來看,除了前文提到的一些關(guān)鍵參數(shù)指標(biāo)外,據(jù)忻舟透露,通過端到端優(yōu)化,其文心千帆大模型平臺在多級多卡訓(xùn)練性能上實現(xiàn)了更快的收斂,在全球權(quán)威AI基準(zhǔn)評測MLPerf榜單中排名世界第一;并將三個知名千億參數(shù)第三方開源模型BLOOM、LLaMA、GLM的分布式并行訓(xùn)練加速性能平均提升了150%

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

實現(xiàn)這些優(yōu)化的基石是百度打造的國內(nèi)首個全棧自研的AI基礎(chǔ)設(shè)施“百度AI大底座”。百度的算力、框架、模型、應(yīng)用四層AI架構(gòu)都實現(xiàn)了自主可控,這也是它區(qū)別于其他國內(nèi)云計算大廠的一大優(yōu)勢所在。

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

國內(nèi)廠商少有的萬卡GPU儲備、提供高性價比算力的百度自研AI芯片昆侖芯、國產(chǎn)最大AI深度學(xué)習(xí)開源平臺飛槳、豐富的文心大模型體系、連續(xù)四年蟬聯(lián)中國AI公有云第一……百度手中握有的這些王牌,加上四層IT架構(gòu)端到端優(yōu)化,各層優(yōu)勢層層累加,構(gòu)筑了其在提供極致大模型應(yīng)用體驗方面的核心護城河?;诖?,文心一言啟動內(nèi)測1個多月后,大模型推理成本降為原來的1/10。
從全面性、擴展性來看,文心千帆提供了大模型的全流程工具鏈,并支持豐富應(yīng)用插件,其私有化部署的軟硬一體方案支持包括英特爾、超微、海光、飛騰等的各種CPU芯片以及包括英偉達、昆侖芯、海光DCU等的各種AI加速卡。這些都為企業(yè)按需選擇服務(wù)提供了更高的自由度。

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

據(jù)悉,文心千帆未來會聚焦五個方面:海量高質(zhì)量專業(yè)數(shù)據(jù)集開放、模型深度調(diào)整和高效訓(xùn)練、大模型高效壓縮、快速模型應(yīng)用編排、Prompt自動生成。
03.
300余家生態(tài)伙伴
已參與文心一言內(nèi)測
從產(chǎn)業(yè)實踐進展來看,文心千帆大模型平臺是國內(nèi)第一梯隊中的排頭兵。
對內(nèi),文心千帆的技術(shù)已經(jīng)被應(yīng)用到搜索、推薦、地圖、如流、小度等百度內(nèi)部產(chǎn)品中。這些產(chǎn)品正在基于文心一言升級。這些落地實踐的反饋和經(jīng)驗全部整合到文心千帆大模型平臺中,有助于幫企業(yè)在使用大模型的過程中少踩坑。
比如百度內(nèi)部辦公軟件“如流”借助文心千帆提供的企業(yè)搜索插件搭建了一個文心千帆AI小助手功能。過去獲得一個答案平均時間約5分鐘,現(xiàn)在小助手平均5秒就能解答一個產(chǎn)品或技術(shù)難題,大幅提升了工作效率。百度智能云進行了現(xiàn)場演示提問:“我想訓(xùn)練行業(yè)大模型,成本大概怎么預(yù)估?”如流小助手很快回答說:“通常需要使用500GB+的數(shù)據(jù)制作行業(yè)大模型,大概2500億漢字,訓(xùn)練行業(yè)大模型大概需要10萬~50萬卡時?!?/span>

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

文心一言大模型是文心千帆大模型平臺上的第一個大模型,企業(yè)在文心千帆大模型平臺上,既可以直接用文心一言大模型的企業(yè)服務(wù)或者基于文心一言大模型進行微調(diào)后使用,也可以在平臺上開發(fā)、管理自己的大模型。
百度智能云的金融行業(yè)應(yīng)用、政務(wù)行業(yè)應(yīng)用、智能創(chuàng)作平臺、智能客服、企業(yè)知識管理、數(shù)字人直播平臺等六大智能產(chǎn)品系列,將基于文心大模型全面升級,未來將在安全評估完成后上線。
對外,文心千帆面向首批企業(yè)客戶內(nèi)測以來,正在與不同領(lǐng)域客戶聯(lián)合研發(fā),在智能辦公、旅行服務(wù)、電商直播、政務(wù)服務(wù)、金融服務(wù)五大領(lǐng)域打造行業(yè)樣板間。這些都是當(dāng)前在引入生成式AI應(yīng)用方面最為積極的一些業(yè)務(wù)場景。
比如在辦公領(lǐng)域,文心一言在意圖理解、PPT大綱生成、范文書寫、生成待辦列表、文生圖等多模態(tài)生成的場景上,與金山辦公的聯(lián)合開發(fā)已取得進展。金山辦公助理總裁田然說,文心千帆在安全合規(guī)、模型深度、迭代速度、推理性能等多個方面都有一定的優(yōu)勢。

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

百度還幫長安汽車構(gòu)建了AI基礎(chǔ)設(shè)施平臺和數(shù)字人平臺?,F(xiàn)在雙方基于百度文心大模型正在開發(fā)一款智能產(chǎn)品,賦能長安汽車的一款量產(chǎn)車型。
在昨天的活動現(xiàn)場,百度智能云與聯(lián)想集團、用友、寶蘭德等14家文心千帆生態(tài)伙伴舉行簽約儀式。百度集團副總裁袁佛玉說:“截至目前,已有超過300家生態(tài)伙伴參與文心一言內(nèi)測,在400多個企業(yè)內(nèi)部場景取得測試成效?!?/span>
04.
結(jié)語:”云智一體”的
智能化新基建大幕拉開
隨著越來越多的行業(yè)開始接入大模型,同時開源社區(qū)日趨活躍,大模型落地生態(tài)發(fā)展正呈現(xiàn)欣欣向榮的景象,創(chuàng)新應(yīng)用也正噴薄而出。目前國內(nèi)大模型正呈百家爭鳴之態(tài)勢,沒有哪家做到一家獨大,大模型評測亟待有權(quán)威的評估標(biāo)準(zhǔn),百度也正推動相關(guān)建設(shè)。
對于長期在全棧AI上做重資產(chǎn)投入的百度來說,大模型改寫云計算游戲規(guī)則的歷史性機會已經(jīng)到來,而面對爭奪大模型底座話語權(quán)的硬仗,百度智能云已經(jīng)準(zhǔn)備充分。它的底氣從三年前提出的“云智一體”戰(zhàn)略、全棧自研的AI基礎(chǔ)設(shè)施布局,如今又增加了正在快速擴張生態(tài)的文心一言和兼容并包的文心千帆大模型平臺。

ChatGPT的戰(zhàn)火,已經(jīng)燃燒到第二階段 評估AI大模型實力,別只看算力

經(jīng)濟學(xué)家任澤平曾預(yù)測說,”云智一體”的智能化新基建,將深刻影響我國實體經(jīng)濟。站在AI公有云市場前排,百度智能云如何應(yīng)對快速增長的大模型批量化生產(chǎn)需求與AI算力普及化趨勢,在后續(xù)打好手中的技術(shù)王牌?我們拭目以待。
? 版權(quán)聲明

相關(guān)文章