6 月 28 日，火山引擎發(fā)布了大模型服務(wù)平臺(tái)“火山方舟”，面向企業(yè)提供模型精調(diào)、評(píng)測(cè)、推理等全方位的平臺(tái)服務(wù)（MaaS，即 Model-as-a-Service）。據(jù)悉，目前“火山方舟”集成了百川智能、出門問(wèn)問(wèn)、復(fù)旦大學(xué) MOSS、IDEA 研究院、瀾舟科技、MiniMax、智譜 AI（以拼音首字母排序）等多家 AI 科技公司及科研院所的大模型，并已啟動(dòng)邀測(cè)。

對(duì)于中國(guó)的大模型發(fā)展，火山引擎有下面幾個(gè)關(guān)鍵判斷：

第一，未來(lái)的大模型 市場(chǎng)將是一個(gè)百花齊放的多模型生態(tài)。由于安全信任、行業(yè)壁壘和成本等因素，這個(gè)生態(tài)將同時(shí)并行存在幾個(gè)少數(shù)的超大規(guī)模的大模型、多個(gè)中等規(guī)模的大模型和更多個(gè)行業(yè)的垂直模型。同時(shí)，開放的市場(chǎng)競(jìng)爭(zhēng)和模型多樣性又會(huì)進(jìn)一步促進(jìn)整個(gè)技術(shù)發(fā)展。

第二，企業(yè)，尤其是行業(yè)頭部企業(yè)，自身對(duì)于大模型的應(yīng)用，將是“1 + N”的應(yīng)用模式，即：企業(yè)通過(guò)自研或者與三方模型服務(wù)商的深度合作，形成企業(yè)自身的一個(gè)主力模型；在這個(gè)主力模型之外的不同場(chǎng)景中，企業(yè)還會(huì)同時(shí)應(yīng)用 N 個(gè)外部模型。

基于以上判斷，火山引擎定位于為模型生產(chǎn)端和模型應(yīng)用端提供底層能力和產(chǎn)品方案，解決計(jì)算、安全、成本等通用問(wèn)題。據(jù)悉，火山方舟由以下幾個(gè)核心部分構(gòu)成：

第一個(gè)是模型廣場(chǎng)，許多模型提供商會(huì)提供不同版本 / 不同尺寸的模型。企業(yè)可以直接與這些模型交互。在火山引擎上可以直接調(diào)用推理 API，接入生產(chǎn)環(huán)境。適合進(jìn)行快速分析和 AB 實(shí)驗(yàn)。

第二個(gè)是模型評(píng)估。企業(yè)要把大模型用好，首先得想好自己的業(yè)務(wù)需求，并為之設(shè)計(jì)一套可量化的評(píng)估指標(biāo)，并在不斷對(duì)比 / 評(píng)估 / 試驗(yàn)的過(guò)程中，積累評(píng)估數(shù)據(jù)、快速迭代。要給多樣化的業(yè)務(wù)場(chǎng)景和業(yè)務(wù)入口，挑選不同的、最合適的模型。

第三個(gè)是模型精調(diào)。對(duì)于要求較高的垂直場(chǎng)景，用戶可能需要利用自有數(shù)據(jù)和領(lǐng)域非公開數(shù)據(jù)，進(jìn)行持續(xù)訓(xùn)練，并且建設(shè)和積累自己的精調(diào)數(shù)據(jù)集。對(duì)精調(diào)的良好運(yùn)用也有益于對(duì)更小尺寸模型的利用， 在特定工作上達(dá)到逼近通用大模型的水平，由此降低推理成本。火山方舟可以對(duì)一個(gè)模型或多個(gè)基座模型同時(shí)發(fā)起訓(xùn)練任務(wù)，同時(shí)實(shí)時(shí)跟蹤模型精調(diào)的效果指標(biāo)和運(yùn)行情況。

第四個(gè)是安全和信任機(jī)制。據(jù)悉，火山大模型服務(wù)平臺(tái)提供了基于安全沙箱、硬件加密和聯(lián)邦學(xué)習(xí)的多套大模型安全與信任解決方案。吳迪表示，“火山方舟”還在探索基于 Nvidia 新一代硬件支持的可信計(jì)算環(huán)境、基于聯(lián)邦學(xué)習(xí)的數(shù)據(jù)資產(chǎn)分離等多種方式的安全互信計(jì)算方案。

隨著平臺(tái)不斷迭代， 企業(yè)對(duì)大模型的資源供應(yīng)將更為彈性 / 動(dòng)態(tài)和廉價(jià)?；鹕揭嫱ㄟ^(guò)流量錯(cuò)峰、訓(xùn)推一體等手段，將進(jìn)一步降低推理的單位成本。吳迪表示，這也是在大模型時(shí)代，上云所帶來(lái)的重要優(yōu)勢(shì)。除此之外， 火山引擎將和大模型提供商聯(lián)合進(jìn)行深度的性能優(yōu)化，包括火山引擎知名的 veLego 優(yōu)化框架，還包括火山引擎將不斷和大模型提供商分享 / 共創(chuàng)的諸多量化 /batching/ 調(diào)度等優(yōu)化技術(shù)。

火山引擎總裁譚待 認(rèn)為，除了算法、數(shù)據(jù)和算力外，企業(yè)做大模型還需要考慮以下問(wèn)題：

• 安全與信任。這里的安全和信任是一種雙向信任。大模型服務(wù)商除了考慮模型方案和代碼不被泄露，也需要考慮到各個(gè)應(yīng)用企業(yè)的安全問(wèn)題，保障企業(yè)在調(diào)用大模型時(shí)自己的 prompt 或精調(diào)數(shù)據(jù)不會(huì)被泄露。
• 性價(jià)比。之前大家處于模型研發(fā)的早期，更多考慮的是模型預(yù)訓(xùn)練階段的成本問(wèn)題，但后期模型的推理計(jì)算才是成本更高的環(huán)節(jié)。只有推理成本做到足夠低，才能讓大模型真正被廣泛使用。
• 生態(tài)系統(tǒng)。生成式模型并不知道自己擅長(zhǎng)什么、不擅長(zhǎng)什么，需要我們告訴他們自己的優(yōu)劣勢(shì)，并且在他們不擅長(zhǎng)的地方為其提供下游的模型、API 和插件，幫助他們更好地解決問(wèn)題，幫助大模型“長(zhǎng)出手和腳”。

火山引擎智能算法負(fù)責(zé)人吳迪表示，與其他很多云廠商單純提供算力、基礎(chǔ)底座不同，火山方舟平臺(tái)一方面會(huì)在資源和優(yōu)化方面跟模型提供商進(jìn)行非常深度的合作，長(zhǎng)期致力于降低推理成本，另一方面，火山算法團(tuán)隊(duì)會(huì)和客戶做重點(diǎn)的應(yīng)用共建和應(yīng)用落地，催化整個(gè)大模型、大算力在千行百業(yè)的落地速度。

據(jù)悉，抖音集團(tuán)內(nèi)部已有十多個(gè)業(yè)務(wù)團(tuán)隊(duì)試用“火山方舟”，在代碼糾錯(cuò)等研發(fā)提效場(chǎng)景，文本分類、總結(jié)摘要等知識(shí)管理場(chǎng)景，以及數(shù)據(jù)標(biāo)注、歸因分析等方面進(jìn)行探索，利用大模型能力促進(jìn)降本增效。這些內(nèi)部實(shí)踐也在快速打磨“火山方舟”，推動(dòng)平臺(tái)能力的進(jìn)一步完善。“火山方舟”的首批邀測(cè)企業(yè)還包括金融、汽車、消費(fèi)等眾多行業(yè)的客戶。

譚待坦言，“火山方舟”還在起步階段，工具鏈和下游應(yīng)用插件需要持續(xù)完善，平臺(tái)還將接入更多大模型，并逐步擴(kuò)大邀測(cè)范圍，與企業(yè)客戶共建開放合作的多模型生態(tài)，加速大模型在各行各業(yè)的應(yīng)用落地。