【項(xiàng)目介紹】
我們用AI 賦能,為 200 多個(gè)行業(yè)客戶提供AI 解決方案,并順利實(shí)現(xiàn)了商業(yè)化,積累了豐富的經(jīng)驗(yàn)。AI技術(shù)快速發(fā)展,尤其是大模型的出現(xiàn)及火爆,導(dǎo)致了就業(yè)市場出現(xiàn)了相關(guān)人才的短缺,面對(duì)此類工作崗位人才的巨大缺口,我們運(yùn)用自身6年的人工智能項(xiàng)目經(jīng)驗(yàn),結(jié)合當(dāng)下不斷迭代的新AI技術(shù),研發(fā)出適合當(dāng)前就業(yè)市場需求的AI大模型算法工程師課程,促使越來越多的有志之人投身于人工智能大發(fā)展的浪潮中。
【適合人群】
移動(dòng)端開發(fā),C++/Java有項(xiàng)目研發(fā)經(jīng)驗(yàn),代碼能力強(qiáng),學(xué)習(xí)后薪資漲幅較高。
計(jì)算機(jī)、人工智能、軟件工程、數(shù)學(xué)、電子信息等相關(guān)的專業(yè),本科及碩士人群。
項(xiàng)目管理、產(chǎn)品經(jīng)理、或者細(xì)分行業(yè)準(zhǔn)備做智能化升級(jí)的負(fù)責(zé)人,希望提升自己的人士
其它行業(yè)人士,想轉(zhuǎn)行進(jìn)入AI人工智能領(lǐng)域?qū)ふ覚C(jī)會(huì)的人士(IT相關(guān)職位優(yōu)先)。
【項(xiàng)目優(yōu)勢】
為學(xué)員配套練習(xí),配置大模型訓(xùn)練微調(diào)所需要的算力資源,實(shí)訓(xùn)基本花巨資購買GPU卡和服務(wù)器,讓每一位同學(xué)都有至少一臺(tái)訓(xùn)練設(shè)備;
線下學(xué)習(xí)通過實(shí)際項(xiàng)目實(shí)操,學(xué)員能夠直接面對(duì)真實(shí)場景中的問題,有助于理解理論知識(shí)在實(shí)際工作中的應(yīng)用。這種實(shí)戰(zhàn)經(jīng)驗(yàn)對(duì)于學(xué)員的問題解決能力和模型微調(diào)技巧至關(guān)重要;
緊跟行業(yè)趨勢,讓學(xué)員所學(xué)技能不過時(shí),提升其在職場的技術(shù)優(yōu)勢,由資深大模型項(xiàng)目研發(fā)專家親自執(zhí)導(dǎo),為您帶來成體系的微調(diào)技術(shù)課程。在這里,您將直接受益于業(yè)界權(quán)威的專業(yè)知識(shí)和實(shí)戰(zhàn)經(jīng)驗(yàn),深入掌握前沿的大模型微調(diào)策略。
我們的課程特別設(shè)計(jì)了一系列實(shí)操環(huán)節(jié),確保學(xué)員不僅理論學(xué)習(xí),更能親自動(dòng)手實(shí)踐,深刻理解技術(shù)的來源與應(yīng)用原理。通過這樣的深度體驗(yàn),學(xué)員將大幅提升技術(shù)的實(shí)際運(yùn)用能力,增強(qiáng)自身競爭力。
【課程目的】
? 熟悉各類AI大語言模型和多模態(tài)大模型,能私有化部署;
? 熟練使用 LangChain等框架,對(duì)RAG,Agent有深入理解和思維鏈設(shè)計(jì)。;
? 負(fù)責(zé)相關(guān)產(chǎn)品的模型訓(xùn)練和服務(wù)部署;
? 對(duì)主流的大模型(GPT、文心一言、百川、chatGLM、通義、LLaMA等)有較豐富的使用經(jīng)驗(yàn)和prompt微調(diào)經(jīng)驗(yàn);
? 掌握大語言模型SFT/LoRA/RLHF等技術(shù),提升特定任務(wù)的大模型能力;
? 熟練掌握主流深度學(xué)習(xí)框架pytorch,LLM訓(xùn)練并行框架Deepspeed等多機(jī)多卡方案;
? 跟蹤大模型領(lǐng)域前沿技術(shù),提出創(chuàng)新思路來推動(dòng)算法升級(jí)和業(yè)務(wù)發(fā)展。
【就業(yè)方向】
【實(shí)戰(zhàn)項(xiàng)目演示】
運(yùn)營商項(xiàng)目 電力智能巡檢
非接觸式智能健康檢測產(chǎn)品
中醫(yī)AI智能舌診、目診 CBCT根骨分離三維切割
脊椎智能測量分析 手腕和頸椎智能檢測骨齡
口腔正畸醫(yī)生SAAS工具平臺(tái)
軌道交通缺陷檢測系統(tǒng)
【課程內(nèi)容】
第一階段:人工智能認(rèn)知基礎(chǔ)
課程內(nèi)容 |
課程大綱 |
人工智能大模型技術(shù)的過去、現(xiàn)在與未來 |
(1)人工智能的發(fā)展史(2)大模型的發(fā)展史(3)人工智能的基本原理 |
大模型實(shí)際應(yīng)用案例介紹 |
(1)大模型企業(yè)應(yīng)用案例(2)企業(yè)擁抱大模型的痛點(diǎn)與解決方案 |
體驗(yàn)大模型 |
體驗(yàn)大模型 |
第二階段:大模型開發(fā)環(huán)境基礎(chǔ)
課程內(nèi)容 |
課程大綱 |
環(huán)境搭建與使用 |
(1)Linux命令基礎(chǔ)(2)Docker基礎(chǔ)(3)XShell操作(4)人工智能相關(guān)基礎(chǔ)庫介紹與安裝 |
開源大模型部署 |
(1)Ollama介紹與安裝(2)常見的開源大模型部署 |
第三階段:AI大模型應(yīng)用開發(fā)平臺(tái)基礎(chǔ)
課程內(nèi)容 |
課程大綱 |
AI大模型應(yīng)用開發(fā)平臺(tái)基礎(chǔ) |
(1)Dify平臺(tái)的介紹與安裝(2)Dify配置基礎(chǔ)大模型(3)Dify創(chuàng)建聊天機(jī)器人(4)Dify創(chuàng)建知識(shí)庫(5)Dify創(chuàng)建Agent(6)Dify創(chuàng)建工作流 |
第四階段:大模型研發(fā)基礎(chǔ)
課程內(nèi)容 |
課程大綱 |
IDE環(huán)境搭建 |
(1)Vscode安裝與配置(2)Jupyter介紹 |
python編程復(fù)盤 |
(1)Python核心語法(2)Python文件操作(3)Python多進(jìn)程與多線程 |
數(shù)據(jù)科學(xué)計(jì)算庫實(shí)戰(zhàn) |
(1)Pandas實(shí)戰(zhàn)(2)Numpy實(shí)戰(zhàn) |
人工智能開發(fā)框架基礎(chǔ) |
(1)Pytorch基礎(chǔ) |
大語言模型結(jié)構(gòu)詳解 |
(1)注意力機(jī)制(2)Transformer網(wǎng)絡(luò)結(jié)構(gòu) |
第五階段:大模型微調(diào)基礎(chǔ)
課程內(nèi)容 |
課程大綱 |
HuggingFace基礎(chǔ) |
(1)Pipeline基礎(chǔ)(2)Transformers組件基礎(chǔ)(3)Tokenizer組件基礎(chǔ)(4)Datasets組件基礎(chǔ)(5)Evalaute組件基礎(chǔ)(6)Trainer組件基礎(chǔ) |
顯存優(yōu)化基礎(chǔ) |
(1)內(nèi)存、顯存基本結(jié)構(gòu)與工作方式(2)模型顯存占有量計(jì)算(3)模型在顯存中的存儲(chǔ)優(yōu)化 |
模型微調(diào)基礎(chǔ) |
(1)大模型訓(xùn)練流程(2)BitFit微調(diào)(3)Prompt-Tuning微調(diào)(4)P-Tuning微調(diào)(5)Prefix-Tuning微調(diào)(6)LORA微調(diào)(7)IA3微調(diào)(8)模型量化(9)QLora微調(diào)(10)對(duì)齊微調(diào)(RLHF\DPO)(11)實(shí)戰(zhàn):微調(diào)llama3 |
模型推理優(yōu)化基礎(chǔ) |
(1)vLLM推理框架基礎(chǔ)(2)Llama.cpp基礎(chǔ) |
多機(jī)多卡分布式訓(xùn)練基礎(chǔ) |
(1)并行基礎(chǔ)(2)Fairscale訓(xùn)練基礎(chǔ)(3)Accelerator訓(xùn)練基礎(chǔ)(4)Deepspeed訓(xùn)練基礎(chǔ) |
第六階段:大模型能力擴(kuò)展
課程內(nèi)容 |
課程大綱 |
Langchain基礎(chǔ) |
(1)Langchain開發(fā)環(huán)境搭建(2)鏈與LCEL基礎(chǔ)(3)記憶模塊基礎(chǔ)(4)知識(shí)增強(qiáng)檢索基礎(chǔ)(RAG)(5)智能體代理基礎(chǔ)(AGENT) |
第七階段:項(xiàng)目實(shí)戰(zhàn)
課程內(nèi)容 |
課程大綱 |
智能問答專家 |
使用自己微調(diào)的大模型,疊加自己的知識(shí)庫,開發(fā)一個(gè)專業(yè)問答專家。例如法律咨詢、醫(yī)療咨詢等。 |
報(bào)告生成能手 |
使用自己微調(diào)的大模型,疊加自己的知識(shí)庫與智能代理,開發(fā)一個(gè)報(bào)告撰寫能手。 |
數(shù)據(jù)智能治理專家 |
利用大模型從海量的、雜亂的文本數(shù)據(jù)中提取需要的信息,并結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)。 |
全流程內(nèi)容制造者 |
通過大模型Agent能力對(duì)網(wǎng)站進(jìn)行的監(jiān)視與內(nèi)容獲取,然后自動(dòng)的對(duì)內(nèi)容進(jìn)行分析、摘要、重寫,最后自動(dòng)發(fā)布到指定平臺(tái)。 |
86%滿意度
上海交大教育集團(tuán)IT研究院
綜合
環(huán)境 : 4.3師資 : 4.3教學(xué) : 4.3