一、大模型開發(fā)工程師項目簡介
大模型開發(fā)工程師旨在精準(zhǔn)評估和考核在大模型開發(fā)領(lǐng)域具備專業(yè)技能與實踐經(jīng)驗的人才,聚焦于大模型架構(gòu)設(shè)計、算法研發(fā)、模型訓(xùn)練與優(yōu)化、部署及創(chuàng)新應(yīng)用等核心能力,全面覆蓋從基礎(chǔ)理論到前沿技術(shù)實踐的各個層面,有力推動人工智能技術(shù)在各行業(yè)的深度應(yīng)用與創(chuàng)新發(fā)展。
證書分為初級、中級、高級三個等級,為不同階段的從業(yè)者提供科學(xué)、系統(tǒng)的能力評價體系。
二、能力標(biāo)準(zhǔn)
1、大模型開發(fā)工程師(初級)
了解大模型的基本概念、發(fā)展脈絡(luò)和主流架構(gòu),熟悉常見的深度學(xué)習(xí)框架的基礎(chǔ)操作。
能夠運(yùn)用框架完成簡單模型的搭建與訓(xùn)練,掌握基本的數(shù)據(jù)處理技能,確保數(shù)據(jù)能夠適配模型訓(xùn)練需求。
具備一定的編程基礎(chǔ),編寫模型訓(xùn)練和數(shù)據(jù)處理的基礎(chǔ)腳本,能夠完成小型模型開發(fā)項目中的簡單模塊任務(wù)。
2、大模型開發(fā)工程師(中級)
熟練掌握深度學(xué)習(xí)框架的核心功能和高級特性,能夠獨(dú)立設(shè)計和開發(fā)中等復(fù)雜度的模型架構(gòu)。
深入理解模型訓(xùn)練的原理和優(yōu)化策略,能夠運(yùn)用多種技術(shù)手段有效提升模型性能。具備較強(qiáng)的數(shù)據(jù)處理和分析能力,可進(jìn)行復(fù)雜數(shù)據(jù)的預(yù)處理、特征工程和數(shù)據(jù)分析,為模型開發(fā)提供高質(zhì)量的數(shù)據(jù)支持。
3、大模型開發(fā)工程師(高級)
精通大模型開發(fā)的全流程技術(shù),包括先進(jìn)架構(gòu)設(shè)計、高效訓(xùn)練算法研發(fā)和精準(zhǔn)的模型微調(diào)技巧。
熟練運(yùn)用多種深度學(xué)習(xí)框架和工具,深入了解微調(diào)工具等專業(yè)開發(fā)平臺的高級功能,能夠根據(jù)不同的應(yīng)用場景和硬件環(huán)境進(jìn)行高效的模型開發(fā)和優(yōu)化。
在大規(guī)模模型開發(fā)項目中,能夠發(fā)揮核心技術(shù)引領(lǐng)作用,帶領(lǐng)團(tuán)隊攻克技術(shù)難題。具備深厚的數(shù)學(xué)和算法基礎(chǔ),能夠?qū)δP托阅苓M(jìn)行深入分析和優(yōu)化,提出創(chuàng)新性的解決方案。
三、課程內(nèi)容
| 階段 | 課程 | 知識模塊 |
| 基礎(chǔ)知識 | 大模型與AIGC概述 | 1.?大模型是什么 2.?大模型的前世今生 3.?大模型爆火的原因 4.?大模型原理介紹 5.?AIGC簡介 |
| PyTorch框架基礎(chǔ)實踐 | 1.?PyTorch簡介 2.?張量操作 3.?構(gòu)建一個線性模型 4.?識別手寫數(shù)字 | |
| LangChain與大模型應(yīng)用開發(fā) | LangChain實戰(zhàn) | 1.?LangChain介紹與安裝 2.?LangChain快速使用 3.?模型IO過程解析 4.?RAG實踐:開發(fā)一個課程助教機(jī)器人 5.?代理(Agents) |
| 基于LangChain的本地大模型調(diào)用 | 1.?HuggingFacePipeline使用 2.?自定義LLM 3.?函數(shù)式鏈的使用 4.?基于Embedding的文本相似度計算 5.?在線大模型使用 6.?情感分析應(yīng)用實戰(zhàn) 7.?命名實體識別實現(xiàn) | |
| RAG實戰(zhàn)-論文閱讀助手 | 1.?背景與目標(biāo) 2.?模型準(zhǔn)備 3.?文檔讀取和預(yù)處理 4.?向量存儲 5.?構(gòu)建閱讀問答鏈 6.?RAG增強(qiáng)技術(shù) 7.?閱讀機(jī)器人界面開發(fā) | |
| Agent實戰(zhàn)-在線教育課程訂單智能助手 | 1.?背景與目標(biāo) 2.?模型準(zhǔn)備 3.?創(chuàng)建表格智能體 4.?Agent創(chuàng)建和使用 | |
| 基于LangChain的人事面試助手開發(fā) | 1.?目標(biāo)分析 2.?RAG技術(shù)流程 3.?LangChain加載本地大模型 4.?文檔讀取和分割實現(xiàn) 5.?構(gòu)建RetrievalQA問答鏈 6.?Gradio框架 | |
| 大模型部署與微調(diào) | 大模型開源平臺介紹及使用 | 1.?LLM大模型基礎(chǔ)認(rèn)知 2.?大模型部署與應(yīng)用技術(shù)概述 3.?HuggingFace開源AI社區(qū) 4.?小結(jié) |
| PyTorch大模型原理與應(yīng)用 | 1.?基礎(chǔ)模型簡介 2.?萬模基座Transformer 3.?生成式預(yù)訓(xùn)練模型GPT 4.?雙向編碼模型BERT 5.?Transformer應(yīng)用 | |
| 大模型微調(diào)原理與實現(xiàn) | 1.?大模型微調(diào)的概念 2.?大模型微調(diào)方法 3.?全量微調(diào)FFT 4.?參數(shù)高效微調(diào)PEFT 5.?如何降低大模型顯存占用 6.?modelscope平臺 7.?LLaMA-Factory界面微調(diào)工具 | |
| 基于大模型的金融問句語義相似度計算 | 1.?案例背景及挖掘目標(biāo) 2.?語義文本相似度 3.?預(yù)處理 4.?加載預(yù)訓(xùn)練模型 5.?定義損失函數(shù) 6.?模型訓(xùn)練 7.?模型預(yù)測 8.?模型評估 9.?小結(jié) | |
| 基于大模型微調(diào)的命名實體識別 | 1.?背景與目標(biāo) 2.?命名實體識別概述 3.?模型準(zhǔn)備 4.?數(shù)據(jù)準(zhǔn)備 5.?微調(diào)訓(xùn)練和驗證 6.?小結(jié) | |
| 基于通義千問(Qwen)的創(chuàng)意廣告生成 | 1.?背景與目標(biāo) 2.?千問大模型 3.?數(shù)據(jù)準(zhǔn)備 4.?模型微調(diào)和驗證 5.?小結(jié) | |
| 基于BERT模型的中醫(yī)問答系統(tǒng) | 1.?案例背景與挖掘流程 2.?數(shù)據(jù)加載 3.?數(shù)據(jù)探索:三元組數(shù)據(jù)長度分布情況 4.?預(yù)訓(xùn)練模型介紹 5.?模型加載 6.?加載本地checkpoint文件并進(jìn)行預(yù)測 7.?小結(jié) | |
| 部署自己的Qwen2大模型 | 1.?Github代碼托管平臺 2.?Qwen2大模型部署 3.?Qwen2大模型量化 4.?其他大模型部署示例 | |
| Qwen2大模型部署與電商客服模型微調(diào) | 1.?背景與目標(biāo) 2.?環(huán)境準(zhǔn)備 3.?數(shù)據(jù)格式轉(zhuǎn)化 4.?執(zhí)行微調(diào)腳本 5.?微調(diào)后的模型使用效果分析 6.?web界面部署 7.?swift模型推理 8.?swift界面化微調(diào)訓(xùn)練 | |
| 基于Ollama和Dify的本地大模型的部署和應(yīng)用開發(fā) | 1.?背景與目標(biāo)分析 2.?Ollama介紹與安裝 3.?通過openai調(diào)用ollama本地大模型 4.?Ollama部署和使用Embedding模型 5.?通過ModelFile部署本地大模型 6.?LM Studio介紹與安裝 7.?LM Studio使用 8.?Dify平臺介紹與安裝 9.?基于Dify的RAG實現(xiàn)流程 10.?創(chuàng)建通用聊天機(jī)器人 | |
| 職業(yè)技術(shù)考核 | 大模型開發(fā)工程師(高級)職業(yè)技術(shù)考試 | |
四、報考條件
初級:無要求 ,皆可報考。
中級:(滿足其中一個條件即可)
1.獲得初級證書。
2.年滿18周歲,具備高中以上學(xué)歷,工作年限滿1年。
高級:(滿足其中一個條件即可)
1.獲得中級證書。
2.年滿20周歲以上,工作年限滿2年。
3.年滿20周歲以上,具備大專及以上學(xué)歷。
五、考試方式
考試方式分為線下考試站點(diǎn)或線上考試系統(tǒng)統(tǒng)考兩種方式,考試形式為上機(jī)答題,閉卷。
考試題型:
初級:120 分鐘,單選題+多選題+判斷題+操作題+簡答題,上機(jī)答題。
中級:120 分鐘,單選題+多選題+判斷題+操作題+簡答題,上機(jī)答題。
高級:120 分鐘,單選題+多選題+判斷題+操作題+簡答題,上機(jī)答題。
六、成績評分
考試最終成績滿分為100分,成績80-100分為優(yōu)秀;成績60-79分為合格;成績60分以下為不合格。
七、證書樣本
學(xué)員經(jīng)考核合格,由工業(yè)和信息化部教育與考試中心頒發(fā)大模型開發(fā)工程師職業(yè)技術(shù)證書?,證書可登錄國家工信部教育與考試中心官網(wǎng)查詢。
工程師.png)
八、官方指定報名渠道www.xmqqs.cn,詳情可咨詢:
必須備注:大模型開發(fā)工程師













?津公網(wǎng)安備12011002023007號