職位描述
該職位信息待核驗,請仔細了解后再進行投遞!
1. 碩士及以上學(xué)歷,計算機科學(xué)、人工智能、數(shù)學(xué)、數(shù)據(jù)科學(xué)或相關(guān)專業(yè)背景。
2. 具備扎實的機器學(xué)習(xí)與深度學(xué)習(xí)理論基礎(chǔ),熟悉 Transformer 架構(gòu)、注意力機制和預(yù)訓(xùn)練范式。
3. 至少 2 年以上大規(guī)模模型研發(fā)經(jīng)驗,熟悉 PyTorch、DeepSpeed、Megatron-LM、vLLM 等主流訓(xùn)練/推理框架。
4. 具備大規(guī)模分布式訓(xùn)練調(diào)優(yōu)經(jīng)驗,能夠獨立設(shè)計高效的分布式訓(xùn)練策略,解決 GPU 集群資源利用與性能瓶頸問題。
5. 熟練掌握至少一種大語言模型微調(diào)技術(shù)(LoRA、P-Tuning、RLHF、DPO 等),有實際落地案例。
6. 具備將復(fù)雜業(yè)務(wù)需求抽象為模型問題并提出創(chuàng)新性解決方案的能力。
1、大模型研發(fā)與優(yōu)化:負責(zé)預(yù)訓(xùn)練語言模型的研發(fā)與優(yōu)化,包括參數(shù)規(guī)模在百億級以上的 Transformer 類模型;探索混合專家(MoE)、長上下文(Long-Context)、稀疏注意力等前沿架構(gòu)提升推理與訓(xùn)練效率。
2、模型訓(xùn)練與微調(diào):針對不同業(yè)務(wù)場景,開展大規(guī)模語料預(yù)訓(xùn)練、指令微調(diào)(Instruction Tuning)、偏好對齊(RLHF、DPO 等)和低成本高效微調(diào)(LoRA、QLoRA、P-Tuning 等),提高模型在垂直領(lǐng)域的表現(xiàn)。
3、性能與部署優(yōu)化:研究并實現(xiàn)分布式訓(xùn)練(如 ZeRO、FSDP、DeepSpeed、Megatron-LM)、模型并行與推理加速(vLLM、TensorRT-LLM、FlashAttention),降低 GPU 內(nèi)存消耗與推理時延。
4、工程落地:與平臺團隊協(xié)作,提供模型推理服務(wù) API,封裝高性能 SDK,支持多端調(diào)用(Web/移動端);負責(zé)大模型在知識圖譜、搜索推薦、對話系統(tǒng)等場景的落地與優(yōu)化。
5、前沿探索:跟蹤 LLM、Multimodal、RAG(檢索增強生成)、Agent 框架以及模型安全性(安全對齊、防幻覺)領(lǐng)域的最新進展,推動大模型與知識圖譜、圖神經(jīng)網(wǎng)絡(luò)等技術(shù)結(jié)合。
2. 具備扎實的機器學(xué)習(xí)與深度學(xué)習(xí)理論基礎(chǔ),熟悉 Transformer 架構(gòu)、注意力機制和預(yù)訓(xùn)練范式。
3. 至少 2 年以上大規(guī)模模型研發(fā)經(jīng)驗,熟悉 PyTorch、DeepSpeed、Megatron-LM、vLLM 等主流訓(xùn)練/推理框架。
4. 具備大規(guī)模分布式訓(xùn)練調(diào)優(yōu)經(jīng)驗,能夠獨立設(shè)計高效的分布式訓(xùn)練策略,解決 GPU 集群資源利用與性能瓶頸問題。
5. 熟練掌握至少一種大語言模型微調(diào)技術(shù)(LoRA、P-Tuning、RLHF、DPO 等),有實際落地案例。
6. 具備將復(fù)雜業(yè)務(wù)需求抽象為模型問題并提出創(chuàng)新性解決方案的能力。
1、大模型研發(fā)與優(yōu)化:負責(zé)預(yù)訓(xùn)練語言模型的研發(fā)與優(yōu)化,包括參數(shù)規(guī)模在百億級以上的 Transformer 類模型;探索混合專家(MoE)、長上下文(Long-Context)、稀疏注意力等前沿架構(gòu)提升推理與訓(xùn)練效率。
2、模型訓(xùn)練與微調(diào):針對不同業(yè)務(wù)場景,開展大規(guī)模語料預(yù)訓(xùn)練、指令微調(diào)(Instruction Tuning)、偏好對齊(RLHF、DPO 等)和低成本高效微調(diào)(LoRA、QLoRA、P-Tuning 等),提高模型在垂直領(lǐng)域的表現(xiàn)。
3、性能與部署優(yōu)化:研究并實現(xiàn)分布式訓(xùn)練(如 ZeRO、FSDP、DeepSpeed、Megatron-LM)、模型并行與推理加速(vLLM、TensorRT-LLM、FlashAttention),降低 GPU 內(nèi)存消耗與推理時延。
4、工程落地:與平臺團隊協(xié)作,提供模型推理服務(wù) API,封裝高性能 SDK,支持多端調(diào)用(Web/移動端);負責(zé)大模型在知識圖譜、搜索推薦、對話系統(tǒng)等場景的落地與優(yōu)化。
5、前沿探索:跟蹤 LLM、Multimodal、RAG(檢索增強生成)、Agent 框架以及模型安全性(安全對齊、防幻覺)領(lǐng)域的最新進展,推動大模型與知識圖譜、圖神經(jīng)網(wǎng)絡(luò)等技術(shù)結(jié)合。
工作地點
地址:北京石景山區(qū)中國電科智能科技園北京石景山區(qū)中國電科智能科技園
??
點擊查看地圖
詳細位置,可以參考上方地址信息
求職提示:用人單位發(fā)布虛假招聘信息,或以任何名義向求職者收取財物(如體檢費、置裝費、押金、服裝費、培訓(xùn)費、身份證、畢業(yè)證等),均涉嫌違法,請求職者務(wù)必提高警惕。
職位發(fā)布者
Jerr..HR
科銳爾人力資源服務(wù)(蘇州)有限公司
-
零售業(yè)
-
500-999人
-
國內(nèi)上市公司
-
新理想大廈
相似職位
-
行政專員 3000-5000元應(yīng)屆畢業(yè)生 不限無錫民聯(lián)汽車零部件有限公司
-
行銷企劃 5000-7000元應(yīng)屆畢業(yè)生 大專程泰機械(吳江)有限公司
-
結(jié)構(gòu)設(shè)計-徐工重型 (MJ001728) 12000-18000元應(yīng)屆畢業(yè)生 本科徐工集團工程機械股份有限公司
-
數(shù)字化方案(XGSS方向) (MJ003738) 面議應(yīng)屆畢業(yè)生 本科徐工集團工程機械股份有限公司
-
省區(qū)經(jīng)理 面議應(yīng)屆畢業(yè)生 不限鄭州喬優(yōu)生物科技有限公司
-
化學(xué)溶液分析工程師(蝕刻方向) 面議應(yīng)屆畢業(yè)生 不限南京高光半導(dǎo)體材料有限公司

應(yīng)屆畢業(yè)生
學(xué)歷不限
最近更新
2358人關(guān)注
注:聯(lián)系我時,請說是在江蘇人才網(wǎng)上看到的。
