【項目介紹】
我們用AI 賦能,為 200 多個行業(yè)客戶提供AI 解決方案,并順利實現(xiàn)了商業(yè)化,積累了豐富的經(jīng)驗。AI技術快速發(fā)展,尤其是大模型的出現(xiàn)及火爆,導致了就業(yè)市場出現(xiàn)了相關人才的短缺,面對此類工作崗位人才的巨大缺口,我們運用自身6年的人工智能項目經(jīng)驗,結(jié)合當下不斷迭代的新AI技術,研發(fā)出適合當前就業(yè)市場需求的AI大模型算法工程師課程,促使越來越多的有志之人投身于人工智能大發(fā)展的浪潮中。
【適合人群】
移動端開發(fā),C++/Java有項目研發(fā)經(jīng)驗,代碼能力強,學習后薪資漲幅較高。
計算機、人工智能、軟件工程、數(shù)學、電子信息等相關的專業(yè),本科及碩士人群。
項目管理、產(chǎn)品經(jīng)理、或者細分行業(yè)準備做智能化升級的負責人,希望提升自己的人士
其它行業(yè)人士,想轉(zhuǎn)行進入AI人工智能領域?qū)ふ覚C會的人士(IT相關職位優(yōu)先)。
【項目優(yōu)勢】
為學員配套練習,配置大模型訓練微調(diào)所需要的算力資源,實訓基本花巨資購買GPU卡和服務器,讓每一位同學都有至少一臺訓練設備;
線下學習通過實際項目實操,學員能夠直接面對真實場景中的問題,有助于理解理論知識在實際工作中的應用。這種實戰(zhàn)經(jīng)驗對于學員的問題解決能力和模型微調(diào)技巧至關重要;
緊跟行業(yè)趨勢,讓學員所學技能不過時,提升其在職場的技術優(yōu)勢,由資深大模型項目研發(fā)專家親自執(zhí)導,為您帶來成體系的微調(diào)技術課程。在這里,您將直接受益于業(yè)界權威的專業(yè)知識和實戰(zhàn)經(jīng)驗,深入掌握前沿的大模型微調(diào)策略。
我們的課程特別設計了一系列實操環(huán)節(jié),確保學員不僅理論學習,更能親自動手實踐,深刻理解技術的來源與應用原理。通過這樣的深度體驗,學員將大幅提升技術的實際運用能力,增強自身競爭力。
【課程目的】
? 熟悉各類AI大語言模型和多模態(tài)大模型,能私有化部署;
? 熟練使用 LangChain等框架,對RAG,Agent有深入理解和思維鏈設計。;
? 負責相關產(chǎn)品的模型訓練和服務部署;
? 對主流的大模型(GPT、文心一言、百川、chatGLM、通義、LLaMA等)有較豐富的使用經(jīng)驗和prompt微調(diào)經(jīng)驗;
? 掌握大語言模型SFT/LoRA/RLHF等技術,提升特定任務的大模型能力;
? 熟練掌握主流深度學習框架pytorch,LLM訓練并行框架Deepspeed等多機多卡方案;
? 跟蹤大模型領域前沿技術,提出創(chuàng)新思路來推動算法升級和業(yè)務發(fā)展。
【就業(yè)方向】
【實戰(zhàn)項目演示】
運營商項目 電力智能巡檢
非接觸式智能健康檢測產(chǎn)品
中醫(yī)AI智能舌診、目診 CBCT根骨分離三維切割
脊椎智能測量分析 手腕和頸椎智能檢測骨齡
口腔正畸醫(yī)生SAAS工具平臺
軌道交通缺陷檢測系統(tǒng)
【課程內(nèi)容】
第一階段:人工智能認知基礎
課程內(nèi)容 |
課程大綱 |
人工智能大模型技術的過去、現(xiàn)在與未來 |
(1)人工智能的發(fā)展史(2)大模型的發(fā)展史(3)人工智能的基本原理 |
大模型實際應用案例介紹 |
(1)大模型企業(yè)應用案例(2)企業(yè)擁抱大模型的痛點與解決方案 |
體驗大模型 |
體驗大模型 |
第二階段:大模型開發(fā)環(huán)境基礎
課程內(nèi)容 |
課程大綱 |
環(huán)境搭建與使用 |
(1)Linux命令基礎(2)Docker基礎(3)XShell操作(4)人工智能相關基礎庫介紹與安裝 |
開源大模型部署 |
(1)Ollama介紹與安裝(2)常見的開源大模型部署 |
第三階段:AI大模型應用開發(fā)平臺基礎
課程內(nèi)容 |
課程大綱 |
AI大模型應用開發(fā)平臺基礎 |
(1)Dify平臺的介紹與安裝(2)Dify配置基礎大模型(3)Dify創(chuàng)建聊天機器人(4)Dify創(chuàng)建知識庫(5)Dify創(chuàng)建Agent(6)Dify創(chuàng)建工作流 |
第四階段:大模型研發(fā)基礎
課程內(nèi)容 |
課程大綱 |
IDE環(huán)境搭建 |
(1)Vscode安裝與配置(2)Jupyter介紹 |
python編程復盤 |
(1)Python核心語法(2)Python文件操作(3)Python多進程與多線程 |
數(shù)據(jù)科學計算庫實戰(zhàn) |
(1)Pandas實戰(zhàn)(2)Numpy實戰(zhàn) |
人工智能開發(fā)框架基礎 |
(1)Pytorch基礎 |
大語言模型結(jié)構(gòu)詳解 |
(1)注意力機制(2)Transformer網(wǎng)絡結(jié)構(gòu) |
第五階段:大模型微調(diào)基礎
課程內(nèi)容 |
課程大綱 |
HuggingFace基礎 |
(1)Pipeline基礎(2)Transformers組件基礎(3)Tokenizer組件基礎(4)Datasets組件基礎(5)Evalaute組件基礎(6)Trainer組件基礎 |
顯存優(yōu)化基礎 |
(1)內(nèi)存、顯存基本結(jié)構(gòu)與工作方式(2)模型顯存占有量計算(3)模型在顯存中的存儲優(yōu)化 |
模型微調(diào)基礎 |
(1)大模型訓練流程(2)BitFit微調(diào)(3)Prompt-Tuning微調(diào)(4)P-Tuning微調(diào)(5)Prefix-Tuning微調(diào)(6)LORA微調(diào)(7)IA3微調(diào)(8)模型量化(9)QLora微調(diào)(10)對齊微調(diào)(RLHF\DPO)(11)實戰(zhàn):微調(diào)llama3 |
模型推理優(yōu)化基礎 |
(1)vLLM推理框架基礎(2)Llama.cpp基礎 |
多機多卡分布式訓練基礎 |
(1)并行基礎(2)Fairscale訓練基礎(3)Accelerator訓練基礎(4)Deepspeed訓練基礎 |
第六階段:大模型能力擴展
課程內(nèi)容 |
課程大綱 |
Langchain基礎 |
(1)Langchain開發(fā)環(huán)境搭建(2)鏈與LCEL基礎(3)記憶模塊基礎(4)知識增強檢索基礎(RAG)(5)智能體代理基礎(AGENT) |
第七階段:項目實戰(zhàn)
課程內(nèi)容 |
課程大綱 |
智能問答專家 |
使用自己微調(diào)的大模型,疊加自己的知識庫,開發(fā)一個專業(yè)問答專家。例如法律咨詢、醫(yī)療咨詢等。 |
報告生成能手 |
使用自己微調(diào)的大模型,疊加自己的知識庫與智能代理,開發(fā)一個報告撰寫能手。 |
數(shù)據(jù)智能治理專家 |
利用大模型從海量的、雜亂的文本數(shù)據(jù)中提取需要的信息,并結(jié)構(gòu)化數(shù)據(jù)存儲。 |
全流程內(nèi)容制造者 |
通過大模型Agent能力對網(wǎng)站進行的監(jiān)視與內(nèi)容獲取,然后自動的對內(nèi)容進行分析、摘要、重寫,最后自動發(fā)布到指定平臺。 |
86%滿意度
上海交大教育集團IT研究院
綜合4.3分
環(huán)境 : 4.3師資 : 4.3教學 : 4.3