一、大模型應(yīng)用工程師項目簡介
大模型應(yīng)用工程師是工業(yè)和信息化部教育與考試中心推出的,針對大模型領(lǐng)域?qū)I(yè)人才的考核體系。該旨在衡量從業(yè)者在大模型應(yīng)用數(shù)據(jù)整合、語義理解、邏輯推理、文本輸出以及應(yīng)用等方面的能力,以滿足不同行業(yè)對大模型應(yīng)用人才的需求,推動企業(yè)大模型應(yīng)用驅(qū)動決策的發(fā)展。
證書分為初級、中級、高級三個等級,為不同層次的大模型應(yīng)用人才提供了專業(yè)的能力考核。
二、能力標準
1、大模型應(yīng)用工程師(初級)
掌握大模型的基礎(chǔ)應(yīng)用,如數(shù)據(jù)清洗、預處理,以及模型的基本訓練和調(diào)優(yōu)。能夠使用常見的深度學習框架和工具,進行大模型的部署和集成。
熟悉PyTorch、TensorFlow等深度學習平臺,能夠使用Python/C++編程語言進行基本的模型開發(fā)和調(diào)試。具備數(shù)據(jù)處理能力,包括數(shù)據(jù)爬取、清洗、增強和標注等。
通過實際操作,熟悉大模型在實際項目中的應(yīng)用流程,包括模型設(shè)計、數(shù)據(jù)處理、訓練與優(yōu)化、部署以及性能監(jiān)測與維護等環(huán)節(jié)。
2、大模型應(yīng)用工程師(中級)
掌握大模型的基礎(chǔ)應(yīng)用,如數(shù)據(jù)清洗、預處理,以及模型的基本訓練和調(diào)優(yōu)。能夠使用常見的深度學習框架和工具,進行大模型的部署和集成。
熟悉PyTorch、TensorFlow等深度學習平臺,能夠使用Python/C++編程語言進行基本的模型開發(fā)和調(diào)試。具備數(shù)據(jù)處理能力,包括數(shù)據(jù)爬取、清洗、增強和標注等。
深入了解LLM大模型的基礎(chǔ)特性和應(yīng)用場景,掌握大模型部署與應(yīng)用的相關(guān)技術(shù)。
熟練進行數(shù)據(jù)讀取、模型訓練、特征提取與相似度計算等操作,實現(xiàn)準確高效的文本檢索功能,并對整個文本檢索過程進行總結(jié)和優(yōu)化。
具備一定的商業(yè)敏感度,能夠結(jié)合業(yè)務(wù)場景,從大模型應(yīng)用角度提出合理的建議和決策支持。
3、大模型應(yīng)用工程師(高級)
掌握大模型的基礎(chǔ)應(yīng)用,如數(shù)據(jù)清洗、預處理,以及模型的基本訓練和調(diào)優(yōu)。能夠使用常見的深度學習框架和工具,進行大模型的部署和集成。
熟悉PyTorch、TensorFlow等深度學習平臺,能夠使用Python/C++編程語言進行基本的模型開發(fā)和調(diào)試以及熟悉使用modelscope平臺和LLaMA – Factory界面微調(diào)工具等,具備數(shù)據(jù)處理能力,包括數(shù)據(jù)爬取、清洗、增強和標注等。
深入了解LLM大模型的基礎(chǔ)特性和應(yīng)用場景,掌握大模型部署與應(yīng)用的相關(guān)技術(shù)以及深入理解基于CLIP模型的電商多模態(tài)圖文檢索原理和應(yīng)用場景,能夠?qū)ο嚓P(guān)數(shù)據(jù)進行有效的預處理,使其符合模型輸入要求。
具備獨立部署Qwen2大模型的能力,包括環(huán)境搭建、模型配置、運行調(diào)試等環(huán)節(jié),同時能夠?qū)δP瓦M行量化優(yōu)化,提高模型運行效率。了解其他常見大模型的部署方法和流程,具備舉一反三的能力,同時具備團隊管理和項目協(xié)調(diào)能力,能夠帶領(lǐng)團隊完成大模型應(yīng)用分析項目,與其他部門有效溝通協(xié)作,推動大模型成果在企業(yè)中的落地應(yīng)用。
三、課程內(nèi)容
階段 | 課程 | 知識模塊 |
基礎(chǔ)知識 | 大模型與AIGC概述 | 1.?大模型是什么 2.?大模型的前世今生 3.?大模型爆火的原因 4.?大模型原理介紹 5.?AIGC簡介 |
PyTorch框架基礎(chǔ)實踐 | 1.?PyTorch簡介 2.?張量操作 3.?構(gòu)建一個線性模型 4.?識別手寫數(shù)字 | |
AIGC的多元應(yīng)用 | AIGC與文本生成 | 1.?AIGC概述 2.?AIGC文本生成提示詞工程 3.?小紅書文案寫作 4.?郵件撰寫 5.?產(chǎn)品需求文檔撰寫 6.?測試用例撰寫 7.?文獻閱讀 8.?Python代碼查錯 9.?SQL編寫 10.?辦公自動化 11.?數(shù)據(jù)格式化提取 12.?招聘信息編寫 |
AIGC與圖像生成 | 1.?AI繪畫基礎(chǔ)知識 2.?AI繪畫基礎(chǔ)實操 | |
AIGC與人力資源管理 | 1.?概述 2.?招聘信息生成 3.?簡歷匹配分析 4.?面試題目生成 5.?培訓策劃書編寫 6.?調(diào)查問卷生成 7.?考勤數(shù)據(jù)分析 8.?福利制度制定 9.?員工離職分析 | |
AIGC與產(chǎn)品經(jīng)理 | 1.?認識產(chǎn)品經(jīng)理 2.?需求收集 3.?需求分析 4.?功能設(shè)計 | |
AIGC生產(chǎn)力提升 | 1.?學習準備與聲明 2.?大模型輔助生成PPT 3.?大模型輔助生成思維導圖 4.?大模型輔助繪制流程圖 | |
AIGC的教學應(yīng)用 | 1.?學習準備與聲明 2.?大模型輔助教案撰寫 3.?題庫題目生成 4.?大模型輔助文獻閱讀 5.?大模型輔助編程 6.?大模型輔助數(shù)據(jù)分析 7.?總結(jié) | |
AIGC輔助數(shù)據(jù)處理與分析 | 1.?認識數(shù)據(jù)分析 2.?AIGC輔助數(shù)據(jù)分析 3.?背景與挖掘目標 4.?數(shù)據(jù)探索 5.?數(shù)據(jù)預處理 6.?指標構(gòu)建與可視化 | |
大模型部署與微調(diào) | 大模型開源平臺介紹及使用 | 1.?LLM大模型基礎(chǔ)認知 2.?大模型部署與應(yīng)用技術(shù)概述 3.?HuggingFace開源AI社區(qū) 4.?小結(jié) |
PyTorch大模型原理與應(yīng)用 | 1.?基礎(chǔ)模型簡介 2.?萬模基座Transformer 3.?生成式預訓練模型GPT 4.?雙向編碼模型BERT 5.?Transformer應(yīng)用 | |
大模型微調(diào)原理與實現(xiàn) | 1.?大模型微調(diào)的概念 2.?大模型微調(diào)方法 3.?全量微調(diào)FFT 4.?參數(shù)高效微調(diào)PEFT 5.?如何降低大模型顯存占用 6.?小結(jié) 7.?modelscope平臺 8.?LLaMA-Factory界面微調(diào)工具 | |
基于大模型的金融問句語義相似度計算 | 1.?案例背景及挖掘目標 2.?語義文本相似度 3.?預處理 4.?加載預訓練模型 5.?定義損失函數(shù) 6.?模型訓練 7.?模型預測 8.?模型評估 9.?小結(jié) | |
基于大模型微調(diào)的命名實體識別 | 1.?背景與目標 2.?命名實體識別概述 3.?模型準備 4.?數(shù)據(jù)準備 5.?微調(diào)訓練和驗證 6.?小結(jié) | |
基于通義千問(Qwen)的創(chuàng)意廣告生成 | 1.?背景與目標 2.?千問大模型 3.?數(shù)據(jù)準備 4.?模型微調(diào)和驗證 5.?小結(jié) | |
基于BERT模型的中醫(yī)問答系統(tǒng) | 1.?案例背景與挖掘流程 2.?數(shù)據(jù)加載 3.?數(shù)據(jù)探索:三元組數(shù)據(jù)長度分布情況 4.?預訓練模型介紹 5.?模型加載 6.?加載本地checkpoint文件并進行預測 7.?小結(jié) | |
部署自己的Qwen2大模型 | 1.?Github代碼托管平臺 2.?Qwen2大模型部署 3.?Qwen2大模型量化 8.?其他大模型部署示例 | |
部署與微調(diào)ChatGLM-6B大模型 | 1.?ChatGLM介紹 2.?部署大模型ChatGLM 3.?API部署的拓展 4.?微調(diào)大模型ChatGLM-6b | |
多模態(tài)的數(shù)據(jù)檢索 | 基于深度學習的圖像檢索 | 1.?數(shù)據(jù)檢索概述 2.?圖像檢索任務(wù) 3.?視覺模型與特征提取 4.?圖像相似度計算與匹配 5.?圖像檢索性能評估 6.?圖像檢索前端展示 |
基于CLIP的電商多模態(tài)圖文檢索 | 1.?背景與目標 2.?數(shù)據(jù)說明 3.?數(shù)據(jù)預處理 4.?CLIP模型結(jié)構(gòu) 5.?CLIP模型訓練方法 6.?CLIP模型驗證—計算圖文特征 7.?CLIP模型驗證—KNN檢索 8.?CLIP模型驗證—Recall計算 9.?CLIP模型預測后處理 10.?圖文檢索前端實現(xiàn) 11.?小結(jié) | |
基于Bert模型微調(diào)的文本檢索 | 1.?背景與應(yīng)用場景和目標 2.?Bert模型構(gòu)造 3.?數(shù)據(jù)讀取 4.?Bert模型訓練 5.?特征提取與相似度計算 6.?小結(jié) | |
職業(yè)技術(shù)考核 | 大模型應(yīng)用工程師(高級)職業(yè)技術(shù)考試 |
四、報考條件
初級:無要求 ,皆可報考。
中級:(滿足其中一個條件即可)
1.獲得初級證書。
2.年滿18周歲,具備高中以上學歷,工作年限滿1年。
高級:(滿足其中一個條件即可)
1.獲得中級證書。
2.年滿20周歲以上,工作年限滿2年。
3.年滿20周歲以上,具備大專及以上學歷
五、考試方式
考試方式分為線下考試站點或線上考試系統(tǒng)統(tǒng)考兩種方式,考試形式為上機答題,閉卷。
考試題型:
初級:120分鐘,單選題+多選題+判斷題+操作題+簡答題,上機答題。
中級:120分鐘,單選題+多選題+判斷題+操作題+簡答題,上機答題。
高級:120分鐘,單選題+多選題+判斷題+操作題+簡答題,上機答題。
六、成績評分
考試最終成績滿分為100分,成績80-100分為優(yōu)秀;成績60-79分為合格;成績60分以下為不合格。
七、證書樣本
學員經(jīng)考核合格,由工業(yè)和信息化部教育與考試中心頒發(fā)的大模型應(yīng)用工程師職業(yè)技術(shù)證書,證書可登錄國家工信部教育與考試中心官網(wǎng)查詢。
證書樣本:
用工程師.png)
八、官方指定報名渠道www.xmqqs.cn,詳情可咨詢:
必須備注:大模型應(yīng)用工程師
