大模型技術(shù)正隨著科技革新實(shí)現(xiàn)廣泛應(yīng)用，滿足多行業(yè)圖像處理需求。但大模型一路“高歌猛進(jìn)”的背后，隱藏著一場(chǎng)關(guān)于模型訓(xùn)練語(yǔ)料的“能源危機(jī)”。根據(jù)人工智能研究人員小組Epoch研究估計(jì)，機(jī)器學(xué)習(xí)數(shù)據(jù)集可能會(huì)在2026年前耗盡所有“高質(zhì)量語(yǔ)言數(shù)據(jù)”。

現(xiàn)階段，大量的高質(zhì)量語(yǔ)料數(shù)據(jù)存在于書籍、論文、研報(bào)、企業(yè)文檔等文檔之中，復(fù)雜的版面結(jié)構(gòu)制約了大模型的訓(xùn)練語(yǔ)料處理及大模型文檔問答的應(yīng)用能力。文檔解析技術(shù)的進(jìn)步，讓機(jī)器能夠識(shí)別文檔中的多種元素，更好地處理文本、表格、圖像等多類型數(shù)據(jù)，還原文檔閱讀順序，加速大模型訓(xùn)練與應(yīng)用。

在近日舉辦的2024中國(guó)圖象圖形大會(huì)（CCIG 2024）大會(huì)中的《大模型技術(shù)及其前沿應(yīng)用》論壇上。上海合合信息科技股份有限公司智能創(chuàng)新事業(yè)部研發(fā)總監(jiān)常揚(yáng)表示:“文檔解析的難點(diǎn)在于如何準(zhǔn)確識(shí)別文檔中的各個(gè)元素，并理解其之間的邏輯關(guān)系，需要關(guān)注‘物理版面分析’和‘邏輯版面分析’”。據(jù)常揚(yáng)介紹，物理版面分析側(cè)重于視覺特征、文檔布局，主要任務(wù)是把相關(guān)性高的文字聚合到一個(gè)區(qū)域，比如一個(gè)段落、一個(gè)表格等，并選用目標(biāo)檢測(cè)任務(wù)進(jìn)行建模，使用基于回歸的單階段檢測(cè)模型進(jìn)行擬合，從而獲得文檔中各種各樣的布局方式；邏輯版面分析側(cè)重于對(duì)語(yǔ)義特征的分析，主要任務(wù)是把不同的文字塊根據(jù)語(yǔ)義建模，例如通過語(yǔ)義的層次關(guān)系，形成一個(gè)目錄樹結(jié)構(gòu)。

文檔解析技術(shù)中文檔元素檢測(cè)、文字表格識(shí)別、文檔版面分析、閱讀順序還原等任務(wù)涉及對(duì)版面元素和版面整體布局的判斷，是文檔處理領(lǐng)域典型的技術(shù)難題。

通過十幾年技術(shù)積淀，合合信息已經(jīng)打通電子檔解析、掃描檔圖像處理、文字識(shí)別、表格識(shí)別、版面分析、版面還原和排版布局等文檔智能化處理的全流程，面對(duì)電子文檔及掃描件，能夠靈活地識(shí)別文字、表格、無線表、跨頁(yè)表格、頁(yè)眉、頁(yè)腳、公式、圖像、流程圖等版面元素，準(zhǔn)確地還原文檔閱讀順序，為大模型領(lǐng)域提供了精準(zhǔn)的訓(xùn)練語(yǔ)料與文檔問答應(yīng)用體驗(yàn)。

“我們研究過程中發(fā)現(xiàn)，真實(shí)世界的文檔有極為豐富的布局類型，沒法單純地用單欄，雙欄、三欄等類別去定義?！背P(yáng)表示，近年來的開放詞匯目標(biāo)檢測(cè)（OVD），視覺語(yǔ)義對(duì)齊（Alignment）等工作，以及生成式模型等前沿進(jìn)展，將給版面分析帶來新的研究思路，合合信息技術(shù)團(tuán)隊(duì)也將持續(xù)在智能文檔處理領(lǐng)域深耕，讓新技術(shù)在行業(yè)中更快速地產(chǎn)生價(jià)值。