AI大模型微调训练营

理论与实践相结合,深入掌握大模型微调(Fine-tuning)技术
大模型微调技术揭秘:Adapter Tuning,Prompt Tuning,Prefx Tuning,P-Tuning,LoRA,AdaLORA, QLORA
熱练掌握 Hugging Face Transformers & PEFT, Microsoft Deepspeed 等微调工具库。
基于国产硬件(华为昇腾 910)和大模型(ChatGLM-6B)进行微调技术实践。

彭靖田谷歌开发者专家，LangChain 开发者，谷歌出海创业加速器导师
极客时间《A 大模型应用开发实战营》讲师，开源项目 Kubeflow 维护者，TensorFlow 贡o献者。国内第一本深度剖析 Google Al 框架的畅销书《深入理解 TensorFlow》作者。
华为公司 2012 实验室深度学习团队成员，从零到一参与了华为深度学习平台和华为深度学习云服务的设计与研发工作。2017 年作为技术合伙人加入才云科技，负责 A1Cloud，并为能源、运营商等多个行业提供定制化人工智能平台方案。
。加州大学访问学者，毕业于浙江大学竺可桢学院。

├── 13-实战私有数据微调ChatGLM3
│ ├── 视频
│ │ ├── 1月18日.mp4
│ ├── 代码
│ │ ├── 代码.txt
│ ├── 直播评论
│ │ ├── 20240118评论区记录.xlsx
│ ├── 资料
│ ├── 课件
│ │ ├── 12-实战私有数据微调ChatGLM3.pdf
├── 5-大语言模型微调技术揭秘-LoRA
│ ├── 课件
│ │ ├── 3-大模型微调技术揭秘.pdf
│ │ ├── 4-大模型微调技术揭秘-LoRA.pdf
│ ├── 视频
│ │ ├── 大模型低秩适配(LoRA)技术.mp4
│ ├── 直播评论
│ │ ├── 20231210评论区记录.xlsx
│ ├── 代码
│ ├── 资料
│ │ ├── UniPELT A Unified Framework for Parameter-Efficient Language Model Tuning.pdf
├── 11-快速入门 LangChain
│ ├── 资料
│ ├── 视频
│ │ ├── 1月7日-2.mp4
│ │ ├── 1月7日.mp4
│ ├── 代码
│ ├── 课件
│ │ ├── 10-快速入门 LangChain 大模型应用开发框架.pdf
│ ├── 直播评论
├── 15-混合专家模型（MoEs）技术揭秘
│ ├── 课件
│ │ ├── 14-混合专家模型（MoEs）技术揭秘.pdf
│ ├── 直播评论
│ │ ├── 20240124评论区记录.xlsx
│ ├── 视频
│ │ ├── 1月25日.mp4
│ ├── 资料
│ │ ├── MoEs论文.zip
├── 0-开营直播1019
│ ├── 大厂案例PPT【www.52download.cn】
│ │ ├── 如何建设一支能打硬仗的技术团队.pdf
│ │ ├── 快手 AI 生成式技术实践.pdf
│ │ ├── 360 大数据平台定制开发之道.pdf
│ │ ├── 腾讯万亿级 Elasticsearch 架构实践.pdf
│ │ ├── 百度文心 (ERNIE) 语义理解技术详解.pdf
│ │ ├── 阿里工程效能微创新.pdf
│ │ ├── 推荐系统特征交互建模：浅层模型、深度模型与 AutoML.pdf
│ │ ├── 微保 Service Mesh 研发实践中的取舍-龙武_compressed.pdf
│ │ ├── 构建批流一体化 AI 数据平台的深度探索.pdf
│ │ ├── 大疆 Kubernetes 探索与实践之路.pdf
│ │ ├── 研发效能建设的“灵魂拷问”与落地实践.pdf.pdf
│ │ ├── Go 并发数据结构和算法实践.pdf
│ │ ├── 技术管理路上的那些事儿.pdf
│ │ ├── 类秒杀场景下的瞬时大流量高并发实践.pdf
│ │ ├── DDD 在京东物流的落地效果.pdf
│ │ ├── Go 语言基础原理深度解析.pdf
│ ├── 10.19直播答疑部分.mp4
│ ├── RAG、微调、预训练，如何选择适合的大模型优化方式？.mp4
├── 6-大模型开发工具库
│ ├── 课件
│ │ ├── 5-大模型开发工具库 HF Transformers.pdf
│ ├── 直播评论
│ ├── 视频
│ │ ├── 大模型开发工具.mp4
│ ├── 代码
├── 9-大模型高效微调工具HF PEFT
│ ├── 直播评论
│ │ ├── 20231227评论区记录.xlsx
│ ├── 视频
│ │ ├── 12月27日.mp4
│ ├── 课件
│ │ ├── 8-大模型高效微调工具HF PEFT.pdf
│ ├── 代码
│ │ ├── github.txt
├── 7-实战 Transformers 模型微调
│ ├── 课件
│ │ ├── 6-实战Transformers模型微调.pdf
│ ├── 直播评论
│ │ ├── 20231220评论区记录.xlsx
│ ├── 代码
│ │ ├── github.txt
│ ├── 视频
│ │ ├── 12月13日.mp4
├── 16-大模型分布式训练框架 Microsoft DeepSpeed
│ ├── 视频
│ │ ├── 1月28日.mp4
│ ├── 课件
│ │ ├── 15-大模型分布式训练框架Microsoft DeepSpeed(1).pdf
│ ├── 代码
│ │ ├── 代码.txt
│ ├── 直播评论
│ │ ├── 20240128评论区记录.xlsx
│ ├── 资料
│ │ ├── ZeRO论文.zip
├── 2-大模型四阶技术总览
│ ├── 直播评论
│ │ ├── 20231203评论区记录.xlsx
│ ├── 课件
│ │ ├── 1-AI大模型四阶技术总览-新.pdf
│ │ ├── 1-AI大模型四阶技术总览.pdf
│ ├── 资料
│ ├── 视频
│ │ ├── AI大模型四阶技术总览.mp4
├── 17-Meta AI 大模型家族 LLaMA
│ ├── 直播评论
│ │ ├── 20240131评论区记录.xlsx
│ ├── 视频
│ │ ├── 1月31日.mp4
│ ├── 课件
│ │ ├── 16-Meta AI 大模型家族 LLaMA.pdf
│ ├── 代码
│ ├── 资料
│ │ ├── LLaMAl论文.zip
├── 1-开营直播：大语言模型微调的前沿技术与应用
│ ├── 资料
│ ├── 视频
│ │ ├── 01-大模型微调的前沿技术与应用.mp4
│ ├── 代码
│ ├── 直播评论
│ │ ├── 20231129评论区记录.xlsx
│ ├── 课件
│ │ ├── 开营直播：大语言模型微调的前沿技术与应用.pdf
├── 8-实战Transformers模型量化
│ ├── 课件
│ │ ├── 7-实战Transformers模型量化.pdf
│ ├── 代码
│ │ ├── github.txt
│ ├── 直播评论
│ │ ├── 20231224评论区记录.xlsx
│ ├── 视频
│ │ ├── 12月24日.mp4
│ ├── 资料
│ │ ├── Quantization论文.zip
├── 3-大语言模型技术发展与演进
│ ├── 资料
│ │ ├── 论文.zip
│ ├── 课件
│ │ ├── 2-大语言模型技术发展与演进.pdf
│ ├── 视频
│ │ ├── 大模型演进.mp4
│ ├── 直播评论
│ │ ├── 20231203评论区记录.xlsx
├── 14-ChatGPT大模型训川练技术RLHF
│ ├── 课件
│ │ ├── 13-ChatGPT大模型训练技术RLHF.pdf
│ ├── 视频
│ │ ├── 1月21日.mp4
│ ├── 代码
│ │ ├── 代码.txt
│ ├── 资料
│ ├── 直播评论
│ │ ├── 20240121评论区记录.xlsx
├── 4-大语言模型微调技术揭秘-PEFT
│ ├── 课件
│ │ ├── 3-大模型微调技术揭秘-PEFT.pdf
│ │ ├── 2-大语言模型技术发展与演进.pdf
│ ├── 资料
│ │ ├── Fine-tuning论文.zip
│ ├── 直播评论
│ │ ├── 20231206评论区记录.xlsx
│ ├── 代码
│ ├── 视频
│ │ ├── 新录制1月14日.mp4
│ │ ├── 大模型微调技术揭秘-PEFT.mp4
├── 12-实战基于LangChain和ChatGLM私有化部署聊天机器人
│ ├── 代码
│ ├── 课件
│ │ ├── 11-实战基于LangChain和ChatGLM私有化部署聊天机器人.pdf
│ ├── 视频
│ │ ├── 1月10日.mp4
│ ├── 直播评论
│ │ ├── 20240110评论区记录.xlsx
├── 10-实战QLoRA微调ChatGLM3-6B
│ ├── 视频
│ │ ├── AI 大模型微调训练营第 0 期直播课-6.flv
│ │ ├── 1月3日.mp4
│ ├── 课件
│ │ ├── 9-实战QLoRA 微调 ChatGLM3-6B.pdf
│ ├── 直播评论
│ │ ├── 20240103评论区记录.xlsx
│ ├── 代码
│ │ ├── github.txt
│ ├── 资料
│ │ ├── GLM论文.zip
├── 课程大纲.jpg