AI價(jià)值對(duì)齊“五有”框架在世界人工智能大會(huì)發(fā)布

AIGC行業(yè)資訊1年前 (2024)發(fā)布 jzawxc

高質(zhì)量的語(yǔ)料是確保人工智能價(jià)值對(duì)齊的關(guān)鍵要素。7月6日，2024世界人工智能大會(huì)在滬舉辦期間，以“語(yǔ)料筑基，智生時(shí)代”為主題的首場(chǎng)語(yǔ)料論壇舉行。論壇圍繞高質(zhì)量語(yǔ)料數(shù)據(jù)如何高效供給賦能大模型產(chǎn)業(yè)發(fā)展，向市場(chǎng)傳遞專業(yè)化、鏈接型、前瞻性的語(yǔ)料生態(tài)設(shè)計(jì)理念。

AI價(jià)值對(duì)齊“五有”框架在世界人工智能大會(huì)發(fā)布

語(yǔ)料論壇現(xiàn)場(chǎng)。人民網(wǎng)記者王初攝

論壇上，人民網(wǎng)、人民日?qǐng)?bào)社傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室聯(lián)合上海庫(kù)帕思科技有限公司正式發(fā)布人工智能價(jià)值對(duì)齊“五有”框架。

人民網(wǎng)、傳播內(nèi)容認(rèn)知全國(guó)重點(diǎn)實(shí)驗(yàn)室相關(guān)負(fù)責(zé)人表示，建設(shè)多維度價(jià)值對(duì)齊的語(yǔ)料庫(kù)，應(yīng)該堅(jiān)持“以人為本、智能向善、造福人類”的原則，鼓勵(lì)通過(guò)國(guó)際合作和實(shí)際行動(dòng)，幫助世界各國(guó)加強(qiáng)人工智能能力建設(shè)。這個(gè)體系分成五個(gè)主要維度，分別是：體現(xiàn)遵循社會(huì)道德規(guī)范和法治精神的倫理價(jià)值維度、體現(xiàn)滿足個(gè)人和群體情感認(rèn)同交流和成長(zhǎng)需求的情緒價(jià)值維度、體現(xiàn)助力大眾文化素養(yǎng)提升和促進(jìn)文明互建互鑒共進(jìn)的文化價(jià)值維度、體現(xiàn)推動(dòng)社會(huì)公平正義和可持續(xù)創(chuàng)新發(fā)展的社會(huì)價(jià)值維度、體現(xiàn)推動(dòng)科技創(chuàng)新與可控可治的技術(shù)價(jià)值維度。

倫理價(jià)值維度，希望人工智能是有德的。倫理價(jià)值是人類社會(huì)長(zhǎng)期發(fā)展的文明積淀，是社會(huì)科學(xué)研究的重點(diǎn)領(lǐng)域，也是公眾日常行為生活的規(guī)范。倫理價(jià)值的語(yǔ)料來(lái)源及層次非常豐富，要構(gòu)建涵蓋基礎(chǔ)理論、歷史文化和現(xiàn)實(shí)生活等三大板塊的多角度語(yǔ)料內(nèi)容，全面反映倫理價(jià)值的內(nèi)涵與外延。

情緒價(jià)值維度，希望人工智能是有趣的。情緒價(jià)值服務(wù)于“技術(shù)為人類服務(wù)”的根本宗旨，希望人工智能將來(lái)的發(fā)展目標(biāo)能與人類共情、共鳴，這也是當(dāng)前人工智能發(fā)展的短板。該維度的語(yǔ)料庫(kù)建設(shè)具有很強(qiáng)的普適性，同時(shí)存在個(gè)性化、場(chǎng)景化和地域化等特定需求，希望構(gòu)建涵蓋三大板塊，治愈成長(zhǎng)語(yǔ)料側(cè)、互動(dòng)共鳴側(cè)及自智娛探索側(cè)等三大板塊的多角度語(yǔ)料內(nèi)容，全面提升人工智能的情緒價(jià)值。

文化價(jià)值維度，希望人工智能是有品的。人工智能技術(shù)的發(fā)展和應(yīng)用，應(yīng)充分尊重和促進(jìn)不同文化之間的平等對(duì)話和交流，鼓勵(lì)文化多樣性和包容性。既要促進(jìn)當(dāng)代優(yōu)秀文化的傳播，堅(jiān)守傳統(tǒng)優(yōu)秀文化的根基，又要實(shí)現(xiàn)創(chuàng)造性轉(zhuǎn)化和創(chuàng)新性發(fā)展，還應(yīng)以人為本，關(guān)注人的尊嚴(yán)和價(jià)值，發(fā)揮人工智能在藝術(shù)創(chuàng)作和審美體驗(yàn)中的積極作用。重點(diǎn)構(gòu)建涵蓋中國(guó)元素、傳統(tǒng)文化及全球文化等三大板塊的多角度語(yǔ)料內(nèi)容，推廣各國(guó)文化發(fā)展和文明進(jìn)步過(guò)程中形成的精神財(cái)富和智慧積累，啟發(fā)人工智能在人文關(guān)懷、審美塑造和啟迪智慧方面的積極作用。

社會(huì)價(jià)值維度，希望人工智能是有序的。社會(huì)價(jià)值側(cè)的板塊語(yǔ)料，將體現(xiàn)人類普遍認(rèn)同的關(guān)于國(guó)家、民族、社會(huì)以及全人類層面的價(jià)值理念、處事原則和行為規(guī)范，重點(diǎn)從社會(huì)和諧、社會(huì)發(fā)展、全球治理三大板塊來(lái)進(jìn)行語(yǔ)料組織和建設(shè)，讓人工智能成為促進(jìn)全人類文明和發(fā)展的推動(dòng)力量。

技術(shù)價(jià)值維度，希望人工智能是有用的。安全性是實(shí)現(xiàn)技術(shù)價(jià)值對(duì)齊的首要前提，可靠性是確保人工智能系統(tǒng)廣泛應(yīng)用和獲得人類信賴的關(guān)鍵，可控性是保障人工智能系統(tǒng)依照人類預(yù)期行動(dòng)的基礎(chǔ)，公平性是實(shí)現(xiàn)技術(shù)普惠和避免社會(huì)不公的重要條件。要建設(shè)對(duì)人類有益的，對(duì)人工智能的安全性、可靠性、可控性和公平性進(jìn)行測(cè)評(píng)和風(fēng)險(xiǎn)評(píng)估的語(yǔ)料數(shù)據(jù)庫(kù)。

簡(jiǎn)言之，就是希望人工智能在倫理價(jià)值上有德、情緒價(jià)值上有趣、文化價(jià)值上有品、社會(huì)價(jià)值上有序、技術(shù)價(jià)值上有用。

人工智能的多維度價(jià)值對(duì)齊是一個(gè)長(zhǎng)期目標(biāo)，應(yīng)該采取發(fā)展與安全并重的策略，以問(wèn)題為導(dǎo)向，做好總體設(shè)計(jì)規(guī)劃，有組織分階段實(shí)施，從技術(shù)、數(shù)據(jù)和應(yīng)用等多個(gè)方面細(xì)化推進(jìn)人工智能與人類在倫理、情緒、文化、社會(huì)、技術(shù)等方面的價(jià)值對(duì)齊。通過(guò)五個(gè)維度的語(yǔ)料庫(kù)價(jià)值對(duì)齊，最終實(shí)現(xiàn)弘揚(yáng)和平、發(fā)展、公平、正義、民主、自由的全人類共同價(jià)值。