大模型開(kāi)發(fā)工程師
一、大模型開(kāi)發(fā)工程師項(xiàng)目簡(jiǎn)介
大模型開(kāi)發(fā)工程師旨在精準(zhǔn)評(píng)估和考核在大模型開(kāi)發(fā)領(lǐng)域具備專業(yè)技能與實(shí)踐經(jīng)驗(yàn)的人才,聚焦于大模型架構(gòu)設(shè)計(jì)、算法研發(fā)、模型訓(xùn)練與優(yōu)化、部署及創(chuàng)新應(yīng)用等核心能力,全面覆蓋從基礎(chǔ)理論到前沿技術(shù)實(shí)踐的各個(gè)層面,有力推動(dòng)人工智能技術(shù)在各行業(yè)的深度應(yīng)用與創(chuàng)新發(fā)展。
證書(shū)分為初級(jí)、中級(jí)、高級(jí)三個(gè)等級(jí),為不同階段的從業(yè)者提供科學(xué)、系統(tǒng)的能力評(píng)價(jià)體系。
二、能力標(biāo)準(zhǔn)
1、大模型開(kāi)發(fā)工程師(初級(jí))
了解大模型的基本概念、發(fā)展脈絡(luò)和主流架構(gòu),熟悉常見(jiàn)的深度學(xué)習(xí)框架的基礎(chǔ)操作。
能夠運(yùn)用框架完成簡(jiǎn)單模型的搭建與訓(xùn)練,掌握基本的數(shù)據(jù)處理技能,確保數(shù)據(jù)能夠適配模型訓(xùn)練需求。
具備一定的編程基礎(chǔ),編寫(xiě)模型訓(xùn)練和數(shù)據(jù)處理的基礎(chǔ)腳本,能夠完成小型模型開(kāi)發(fā)項(xiàng)目中的簡(jiǎn)單模塊任務(wù)。
2、大模型開(kāi)發(fā)工程師(中級(jí))
熟練掌握深度學(xué)習(xí)框架的核心功能和高級(jí)特性,能夠獨(dú)立設(shè)計(jì)和開(kāi)發(fā)中等復(fù)雜度的模型架構(gòu)。
深入理解模型訓(xùn)練的原理和優(yōu)化策略,能夠運(yùn)用多種技術(shù)手段有效提升模型性能。具備較強(qiáng)的數(shù)據(jù)處理和分析能力,可進(jìn)行復(fù)雜數(shù)據(jù)的預(yù)處理、特征工程和數(shù)據(jù)分析,為模型開(kāi)發(fā)提供高質(zhì)量的數(shù)據(jù)支持。
3、大模型開(kāi)發(fā)工程師(高級(jí))
精通大模型開(kāi)發(fā)的全流程技術(shù),包括先進(jìn)架構(gòu)設(shè)計(jì)、高效訓(xùn)練算法研發(fā)和精準(zhǔn)的模型微調(diào)技巧。
熟練運(yùn)用多種深度學(xué)習(xí)框架和工具,深入了解微調(diào)工具等專業(yè)開(kāi)發(fā)平臺(tái)的高級(jí)功能,能夠根據(jù)不同的應(yīng)用場(chǎng)景和硬件環(huán)境進(jìn)行高效的模型開(kāi)發(fā)和優(yōu)化。
在大規(guī)模模型開(kāi)發(fā)項(xiàng)目中,能夠發(fā)揮核心技術(shù)引領(lǐng)作用,帶領(lǐng)團(tuán)隊(duì)攻克技術(shù)難題。具備深厚的數(shù)學(xué)和算法基礎(chǔ),能夠?qū)δP托阅苓M(jìn)行深入分析和優(yōu)化,提出創(chuàng)新性的解決方案。
三、課程內(nèi)容
階段 | 課程 | 知識(shí)模塊 |
基礎(chǔ)知識(shí) | 大模型與AIGC概述 | 1.?大模型是什么 2.?大模型的前世今生 3.?大模型爆火的原因 4.?大模型原理介紹 5.?AIGC簡(jiǎn)介 |
PyTorch框架基礎(chǔ)實(shí)踐 | 1.?PyTorch簡(jiǎn)介 2.?張量操作 3.?構(gòu)建一個(gè)線性模型 4.?識(shí)別手寫(xiě)數(shù)字 | |
LangChain與大模型應(yīng)用開(kāi)發(fā) | LangChain實(shí)戰(zhàn) | 1.?LangChain介紹與安裝 2.?LangChain快速使用 3.?模型IO過(guò)程解析 4.?RAG實(shí)踐:開(kāi)發(fā)一個(gè)課程助教機(jī)器人 5.?代理(Agents) |
基于LangChain的本地大模型調(diào)用 | 1.?HuggingFacePipeline使用 2.?自定義LLM 3.?函數(shù)式鏈的使用 4.?基于Embedding的文本相似度計(jì)算 5.?在線大模型使用 6.?情感分析應(yīng)用實(shí)戰(zhàn) 7.?命名實(shí)體識(shí)別實(shí)現(xiàn) | |
RAG實(shí)戰(zhàn)-論文閱讀助手 | 1.?背景與目標(biāo) 2.?模型準(zhǔn)備 3.?文檔讀取和預(yù)處理 4.?向量存儲(chǔ) 5.?構(gòu)建閱讀問(wèn)答鏈 6.?RAG增強(qiáng)技術(shù) 7.?閱讀機(jī)器人界面開(kāi)發(fā) | |
Agent實(shí)戰(zhàn)-在線教育課程訂單智能助手 | 1.?背景與目標(biāo) 2.?模型準(zhǔn)備 3.?創(chuàng)建表格智能體 4.?Agent創(chuàng)建和使用 | |
基于LangChain的人事面試助手開(kāi)發(fā) | 1.?目標(biāo)分析 2.?RAG技術(shù)流程 3.?LangChain加載本地大模型 4.?文檔讀取和分割實(shí)現(xiàn) 5.?構(gòu)建RetrievalQA問(wèn)答鏈 6.?Gradio框架 | |
大模型部署與微調(diào) | 大模型開(kāi)源平臺(tái)介紹及使用 | 1.?LLM大模型基礎(chǔ)認(rèn)知 2.?大模型部署與應(yīng)用技術(shù)概述 3.?HuggingFace開(kāi)源AI社區(qū) 4.?小結(jié) |
PyTorch大模型原理與應(yīng)用 | 1.?基礎(chǔ)模型簡(jiǎn)介 2.?萬(wàn)?;鵗ransformer 3.?生成式預(yù)訓(xùn)練模型GPT 4.?雙向編碼模型BERT 5.?Transformer應(yīng)用 | |
大模型微調(diào)原理與實(shí)現(xiàn) | 1.?大模型微調(diào)的概念 2.?大模型微調(diào)方法 3.?全量微調(diào)FFT 4.?參數(shù)高效微調(diào)PEFT 5.?如何降低大模型顯存占用 6.?modelscope平臺(tái) 7.?LLaMA-Factory界面微調(diào)工具 | |
基于大模型的金融問(wèn)句語(yǔ)義相似度計(jì)算 | 1.?案例背景及挖掘目標(biāo) 2.?語(yǔ)義文本相似度 3.?預(yù)處理 4.?加載預(yù)訓(xùn)練模型 5.?定義損失函數(shù) 6.?模型訓(xùn)練 7.?模型預(yù)測(cè) 8.?模型評(píng)估 9.?小結(jié) | |
基于大模型微調(diào)的命名實(shí)體識(shí)別 | 1.?背景與目標(biāo) 2.?命名實(shí)體識(shí)別概述 3.?模型準(zhǔn)備 4.?數(shù)據(jù)準(zhǔn)備 5.?微調(diào)訓(xùn)練和驗(yàn)證 6.?小結(jié) | |
基于通義千問(wèn)(Qwen)的創(chuàng)意廣告生成 | 1.?背景與目標(biāo) 2.?千問(wèn)大模型 3.?數(shù)據(jù)準(zhǔn)備 4.?模型微調(diào)和驗(yàn)證 5.?小結(jié) | |
基于BERT模型的中醫(yī)問(wèn)答系統(tǒng) | 1.?案例背景與挖掘流程 2.?數(shù)據(jù)加載 3.?數(shù)據(jù)探索:三元組數(shù)據(jù)長(zhǎng)度分布情況 4.?預(yù)訓(xùn)練模型介紹 5.?模型加載 6.?加載本地checkpoint文件并進(jìn)行預(yù)測(cè) 7.?小結(jié) | |
部署自己的Qwen2大模型 | 1.?Github代碼托管平臺(tái) 2.?Qwen2大模型部署 3.?Qwen2大模型量化 4.?其他大模型部署示例 | |
Qwen2大模型部署與電商客服模型微調(diào) | 1.?背景與目標(biāo) 2.?環(huán)境準(zhǔn)備 3.?數(shù)據(jù)格式轉(zhuǎn)化 4.?執(zhí)行微調(diào)腳本 5.?微調(diào)后的模型使用效果分析 6.?web界面部署 7.?swift模型推理 8.?swift界面化微調(diào)訓(xùn)練 | |
基于Ollama和Dify的本地大模型的部署和應(yīng)用開(kāi)發(fā) | 1.?背景與目標(biāo)分析 2.?Ollama介紹與安裝 3.?通過(guò)openai調(diào)用ollama本地大模型 4.?Ollama部署和使用Embedding模型 5.?通過(guò)ModelFile部署本地大模型 6.?LM Studio介紹與安裝 7.?LM Studio使用 8.?Dify平臺(tái)介紹與安裝 9.?基于Dify的RAG實(shí)現(xiàn)流程 10.?創(chuàng)建通用聊天機(jī)器人 | |
職業(yè)技術(shù)考核 | 大模型開(kāi)發(fā)工程師(高級(jí))職業(yè)技術(shù)考試 |
四、報(bào)考條件
初級(jí):無(wú)要求 ,皆可報(bào)考。
中級(jí):(滿足其中一個(gè)條件即可)
1.獲得初級(jí)證書(shū)。
2.年滿18周歲,具備高中以上學(xué)歷,工作年限滿1年。
高級(jí):(滿足其中一個(gè)條件即可)
1.獲得中級(jí)證書(shū)。
2.年滿20周歲以上,工作年限滿2年。
3.年滿20周歲以上,具備大專及以上學(xué)歷。
五、考試方式
考試方式分為線下考試站點(diǎn)或線上考試系統(tǒng)統(tǒng)考兩種方式,考試形式為上機(jī)答題,閉卷。
考試題型:
初級(jí):120 分鐘,單選題+多選題+判斷題+操作題+簡(jiǎn)答題,上機(jī)答題。
中級(jí):120 分鐘,單選題+多選題+判斷題+操作題+簡(jiǎn)答題,上機(jī)答題。
高級(jí):120 分鐘,單選題+多選題+判斷題+操作題+簡(jiǎn)答題,上機(jī)答題。
六、成績(jī)?cè)u(píng)分
考試最終成績(jī)滿分為100分,成績(jī)80-100分為優(yōu)秀;成績(jī)60-79分為合格;成績(jī)60分以下為不合格。
七、證書(shū)樣本
學(xué)員經(jīng)考核合格,由工業(yè)和信息化部教育與考試中心頒發(fā)大模型開(kāi)發(fā)工程師職業(yè)技術(shù)證書(shū)?,證書(shū)可登錄國(guó)家工信部教育與考試中心官網(wǎng)查詢。
發(fā)工程師.png)
八、官方指定報(bào)名渠道www.xmqqs.cn,詳情可咨詢:
必須備注:大模型開(kāi)發(fā)工程師
