大模型算法课程目录

龙哥大模型算法全栈课

大模型行业应用算法、大模型算法入门、大模型算法进阶三大板块

260+节课系统课程
8千+分钟学习时长
龙哥课程持续升级...
未找到匹配课程，请更换关键词。
一

课程板块

大模型行业应用算法板块

从行业应用、微调训练、数据查询到内容生成，面向真实业务落地展开。
第一章

认知课

  1. 第一讲人工智能介绍：迭代路径，大模型进化树，技术分类
  2. 第二讲柏拉图表征假说与scaling law：KM缩放定律，chinchilla
  3. 第三讲大模型开发环境准备（python+conda+vscode）
第二章

大模型微调训练

  1. 第一讲大模型微调llama-factory环境准备
  2. 第二讲微调数据集准备（SFT,继续预训练，偏好优化）
  3. 第三讲微调过程lora微调与Qlora微调
  4. 第四讲模型评估（批量推理与自动评估benchmark）
  5. 第五讲模型部署（模型合并导出与量化，本地部署）
第三章

NL2SQL实战落地

  1. 第一讲NL2SQL发展历程与技术路线（一）：场景与技术落地
  2. 第二讲NL2SQL发展历程与技术路线（二）：代码实践与NL2SQL评估
  3. 第三讲NL2SQL RAG增强技术原理（一）：vanna原理与实操
  4. 第四讲NL2SQL RAG增强技术原理（二）：架构与源代码分析
  5. 第五讲SQLCoder实践
  6. 第六讲NL2SQL模型训练（一）
  7. 第七讲NL2SQL模型训练（二）
  8. 第八讲NL2SQL模型训练（三）
第四章

AI行业落地与开发-AIGC

  1. 第一讲AI绘画 stable diffusion部署与开发及工具（1）
  2. 第二讲AI绘画 stable diffusion部署与开发及工具（2）
  3. 第三讲AI绘画 comfyUI部署与开发，mj集成等（1）
  4. 第四讲AI绘画 comfyUI部署与开发，mj集成等（2）
  5. 第五讲AI绘画 diffusers库开发
  6. 第六讲AI绘画 stable diffusion 1.x架构原理（1）
  7. 第七讲AI绘画 stable diffusion 1.x架构原理（2）
  8. 第八讲AI绘画 stable diffusion 1.x架构原理（3）
  9. 第九讲AI绘画 SD3与Flux架构原理
  10. 第十讲AI语音TTS与ASR应用开发（1）
  11. 第十一讲AI语音TTS与ASR应用开发（2）
  12. 第十二讲AI语音ASR技术 whisper原理与开发
  13. 第十三讲AI语音ASR技术 SenseVoice原理、使用与训练
  14. 第十四讲AI语音TTS技术 CosyVoice原理，使用与训练（1）
  15. 第十五讲AI语音TTS技术 CosyVoice原理，使用与训练（2）
  16. 第十六讲AI语音TTS技术 F5-TTS原理，使用与训练
  17. 第十七讲AI语音TTS技术 GLM4-voice原理，使用与训练
  18. 第十八讲AI多模态Qwen2.5-Omini原理，使用
  19. 第十九讲AI多模态MiniCMP-o原理，使用与训练
  20. 第二十讲AI音乐（一）suno与udio集成与开发
  21. 第二十一讲AI音乐（二）YuE原理、使用与训练
  22. 第二十二讲AI音乐（三）SongGen原理，使用与训练
  23. 第二十三讲AI音乐（四）其它开源项目
  24. 第二十四讲AI视频（一）线上各种API接入
  25. 第二十五讲AI视频（二）通义万相原理，使用训练
  26. 第二十六讲AI视频（三）CogVideoX原理
  27. 第二十七讲AI视频（四）其它开源项目
  28. 第二十八讲AI视频（五）视频自动剪辑
二

课程板块

大模型算法入门板块

从机器学习、深度学习到大模型架构与分布式工程，建立扎实算法底座。
第五章

机器学习

  1. 第一讲机器学习入门：线性回归手撕
  2. 第二讲逻辑回归手撕
  3. 第三讲手撕决策树与随机森林
  4. 第四讲手撕GBDT
  5. 第五讲手撕XGBoost
  6. 第六讲手撕LigthGBM
第六章

深度学习

  1. 第一讲深度学习入门（一）
  2. 第二讲深度学习入门（二）
  3. 第三讲深度学习入门（三）
  4. 第四讲深度学习入门（四）
  5. 第五讲手撕各种激活函数（一）
  6. 第六讲手撕各种激活函数（二）
  7. 第七讲手撕各种损失函数
  8. 第八讲手撕各种归一化
  9. 第九讲手撕各种优化器（一）
  10. 第十讲手撕各种优化器（二）
  11. 第十一讲手撕自动微分（一）
  12. 第十二讲手撕自动微分（二）
第七章

卷积网络

  1. 第一讲卷积网络入门（一）
  2. 第二讲卷积网络入门（二）
  3. 第三讲手撕经典卷积网络（一）
  4. 第四讲手撕经典卷积网络（二）
  5. 第五讲手撕目标检测（一）
  6. 第六讲手撕目标检测（二）
  7. 第七讲手撕目标检测YOLO（一）
  8. 第八讲手撕目标检测YOLO（二）
第八章

手搓大模型与Transformer

  1. 第一讲基础知识（数学基础）
  2. 第二讲注意力机制（原理本质）
  3. 第三讲手搓llama3.2大模型（一）
  4. 第四讲大模型位置编码原理
  5. 第五讲旋转位置编码原理
  6. 第六讲手搓llama3.2大模型（二）
  7. 第七讲MHA/MQA/GQA/MLA（deepseek）原理
  8. 第八讲LightAttention1/2，MiniMax四百万上下文原理
  9. 第九讲大模型八股文（一）
  10. 第十讲大模型八股文（二）
第九章

手搓MOE模型与多模态模型

  1. 第一讲MOE混合专家技术原理
  2. 第二讲手搓qwen3 30B-A3B模型
  3. 第三讲多模态技术原理与模型训练
  4. 第四讲手搓qwen2.5-VL模型：架构，数据，训练，代码（一）
  5. 第五讲手搓qwen2.5-VL模型：架构，数据，训练，代码（二）
  6. 第六讲手搓qwen2.5-VL模型：架构，数据，训练，代码（三）
第十章

分布式推理与分布式训练

  1. 第一讲vLLM单机部署（一）：PageAttetion，docker部署
  2. 第二讲vLLM单机部署（二）：Linux安装，API开发与使用，性能测试，参数优化
  3. 第三讲常用推理框架与Ray分布式框架（一）：Ray Core
  4. 第四讲Ray分布式框架（二）：系统架构，GCS，分布式调度，分布式存储
  5. 第五讲vLLM分布式推理与架构（一）：部署，技术特点，推理加速
  6. 第六讲vLLM分布式推理与架构（一）：vllm架构分析，推理优化，与Ray结合
  7. 第七讲Tensorboard与WandB的深度详细使用
  8. 第八讲分布式训练技术（一）
  9. 第九讲分布式训练技术（二）
  10. 第十讲常用分布式训练框架
  11. 第十一讲NativeDDP分布式训练与医疗大模型训练（一）
  12. 第十二讲NativeDDP分布式训练与医疗大模型训练（二）
  13. 第十三讲DeepSpeed分布式训练技术原理与法律大模型训练（一）
  14. 第十四讲DeepSpeed分布式训练技术原理与法律大模型训练（二）
  15. 第十五讲FSDP分布式训练与安全大模型训练
三

课程板块

大模型算法进阶板块

围绕强化学习、多模态、生成模型与扩散模型，延展前沿研究与工程复现能力。
第十一章

26年LLM算法全系列

  1. 第一讲手撕大模型注意力（一）
  2. 第二讲手撕大模型注意力（二）
  3. 第三讲手撕大模型注意力（三）
  4. 第四讲手撕大模型注意力（四）
  5. 第五讲手撕MLA
  6. 第六讲手撕DSA
  7. 第七讲手撕大模型分词器（一）
  8. 第八讲手撕大模型分词器（二）
  9. 第九讲手撕大模型分词器（三）
  10. 第十讲手撕位置编码（一）
  11. 第十一讲手撕位置编码（二）
  12. 第十二讲手撕长度外推
  13. 第十三讲手撕静态记忆（一）
  14. 第十四讲手撕静态记忆（二）
  15. 第十五讲手撕静态记忆（三）
  16. 第十六讲手撕Resnet与HC（一）
  17. 第十七讲手撕Resnet与HC（二）
  18. 第十八讲手撕HC
  19. 第十九讲手撕HC-lte
  20. 第二十讲手撕deltanet
  21. 第二十一讲手撕gateddeltanet（一）
  22. 第二十二讲手撕gateddeltanet（二）
  23. 第二十三讲手撕kimi deltanet
  24. 第二十四讲手撕TTT（一）
  25. 第二十五讲手撕TTT（二）
第十一章

大模型强化学习-RL基础

  1. 第一讲马尔可夫决策过程与bellman方程（一）
  2. 第二讲马尔可夫决策过程与bellman方程（二）
  3. 第三讲基于值强化学习与代码实现，Q-learning,double Q-learning,DQN
  4. 第四讲基于策略强化学习与代码实现（一）
  5. 第五讲基于策略强化学习与代码实现（二）
  6. 第六讲基于策略的化学习与代码实现（三）
  7. 第七讲基于策略强化学习与代码实现（四）
  8. 第八讲基于策略强化学习与代码实现（五）
  9. 第九讲模仿学习与行为克隆与代码实现
  10. 第十讲逆强化学习与代码实现（一）
  11. 第十一讲逆强化学习与代码实现（二）
第十二章

大模型强化学习-RLHF

  1. 第一讲强化学习知识回顾
  2. 第二讲手撕PPO算法与代码（一）
  3. 第三讲手撕PPO算法与代码（二）
  4. 第四讲手撕PPO算法与代码（三）
  5. 第五讲大模型RLHF与PPO训练（一）
  6. 第六讲大模型RLHF与PPO训练（二）
  7. 第七讲手撕DPO算法与大模型RLHF（一）
  8. 第八讲手撕DPO算法与大模型RLHF（二）
第十三章

大模型强化学习-Reasoning RL

  1. 第一讲手撕GRPO算法与源代码（一）
  2. 第二讲手撕GRPO算法与源代码（二）
  3. 第三讲deepseek-r1技术报告解读（一）
  4. 第四讲deepseek-r1技术报告解读（二）
  5. 第五讲deepseek-r1复现训练（一）
  6. 第六讲deepseek-r2复现训练（二）
  7. 第七讲手撕DAPO算法与训练
  8. 第八讲手撕GSPO算法与训练
  9. 第九讲手撕GFPO算法与训练
第十四章

大模型强化学习-Agent RL

  1. 第一讲GUI Agent RL训练与实战（一）
  2. 第二讲GUI Agent RL训练与实战（二）
  3. 第三讲GUI Agent RL训练与实战（三）
  4. 第四讲coder Agent RL训练与实战（一）
  5. 第五讲coder Agent RL训练与实战（二）
  6. 第六讲coder Agent RL训练与实战（六）
  7. 第七讲webSearch Agent RL训练与实战（一）
  8. 第八讲webSearch Agent RL训练与实战（二）
  9. 第九讲webSearch Agent RL训练与实战（二）
  10. 第十讲Multi Agent RL训练与实战（一）
  11. 第十一讲Multi Agent RL训练与实战（二）
第十五章

大模型强化学习-Diffusion RL

  1. 第一讲应用于扩散模型的Flow GRPO算法
  2. 第二讲应用于扩散模型的Dance GRPO算法
第十六章

大模型强化学习-其它

  1. 第一讲基于隐藏状态的奖励模型（一）
  2. 第二讲基于隐藏状态的奖励模型（二）
第十七章

多模态基础

  1. 第一讲多模态入门
  2. 第二讲手撕ViT架构与原理
  3. 第三讲Swin-Transformer架构与原理
  4. 第四讲手撕CLIP架构与原理
  5. 第五讲手撕MAE与FLIP架构与原理
  6. 第六讲手撕BLIP架构与原理
  7. 第七讲手撕BLIP-2架构与原理
  8. 第八讲手撕SigLIP架构与原理
  9. 第九讲SigLIP-2架构与原理（一）
  10. 第十讲SigLIP-2架构与原理（二）
  11. 第十一讲手撕DINOv1/DINOv2架构与原理
  12. 第十二讲DINOv3架构与原理（一）
  13. 第十三讲DINOv3架构与原理（二）
  14. 第十四讲Perceiver/Flamingo/llava架构与原理
  15. 第十五讲手撕CogVLM/CogVLM2架构与原理
  16. 第十六讲多模态大模型总结-表征、对齐、融合、训练
第十八章

多模态VL

  1. 第一讲手撕FastVLM架构与原理、代码（一）
  2. 第二讲手撕FastVLM架构与原理、代码（二）
  3. 第三讲手撕TIPSv2架构与原理、代码（一）
  4. 第四讲手撕TIPSv2架构与原理、代码（二）
  5. 第五讲InternVL3.5技术报告解读（一）
  6. 第六讲InternVL3.5技术报告解读（二）
  7. 第七讲Seed1.5-VL技术报告解读（一）
  8. 第八讲Seed1.5-VL技术报告解读（二）
  9. 第九讲GLM-4.5V技术报告解读（一）
  10. 第十讲GLM-4.5V技术报告解读（二）
  11. 第十一讲GLM-5V技术报告解读（一）
  12. 第十二讲GLM-5V技术报告解读（二）
第十九章

原生多模态与全模态

  1. 第一讲手撕Emu3架构与原理（一）
  2. 第二讲手撕Emu3架构与原理（二）
  3. 第三讲手撕Emu3.5架构与原理（一）
  4. 第四讲手撕Emu3.5架构与原理（二）
  5. 第五讲手撕MAR架构与原理，代码（一）
  6. 第六讲手撕MAR架构与原理，代码（二）
  7. 第七讲Harmon架构与原理
  8. 第八讲LUMINA-IMAGE 2.0架构与原理
  9. 第九讲OmniGen2架构与原理
  10. 第十讲BLIP3-o架构与原理（一）
  11. 第十一讲BLIP3-o架构与原理（二）
  12. 第十二讲BAGEL架构与原理
  13. 第十三讲Qwen3-Omni技术报告解读
  14. 第十四讲longcat-next技术报告解读（一）
  15. 第十五讲longcat-next技术报告解读（二）
  16. 第十六讲longcat-next技术报告解读（三）
  17. 第十七讲longcat-next技术报告解读（四）
  18. 第十八讲Tuna架构与原理
  19. 第十九讲Tuna2架构与原理
第二十章

VAE系列

  1. 第一讲生成模型基础与AE手撕
  2. 第二讲手撕VAE算法，原理，代码，训练(一)
  3. 第三讲手撕VAE算法，原理，代码，训练(二)
  4. 第四讲手撕VQ-VAE算法，原理，代码，训练(一)
  5. 第五讲手撕VQ-VAE算法，原理，代码，训练(二)
  6. 第六讲手撕DC-AE算法，原理，代码
  7. 第七讲手撕VA-VAE算法，原理，代码
  8. 第八讲手撕DDT算法，原理，代码
  9. 第九讲手撕RAE算法，原理，代码
第二十一章

GAN系列

  1. 第一讲手撕GAN算法，原理，代码，训练(一)
  2. 第二讲手撕GAN算法，原理，代码，训练(二)
  3. 第三讲手撕WGAN算法，原理，代码，训练
  4. 第四讲手撕WGAN-GP算法，原理，代码，训练
  5. 第五讲手撕VQ-GAN算法，原理，代码
第二十二章

扩散模型系列

  1. 第一讲手撕DDPM算法，原理，代码
  2. 第二讲手撕LDM算法，原理，代码
  3. 第三讲手撕Score matching算法，原理，代码(一)
  4. 第四讲手撕Score matching算法，原理，代码(二)
  5. 第五讲手撕Score matching-SDE算法，原理，代码(一)
  6. 第六讲手撕Score matching-SDE算法，原理，代码(二)
第二十三章

流匹配系列

  1. 第一讲手撕Flow matching算法，原理，代码(一)
  2. 第二讲手撕Flow matching算法，原理，代码(二)
  3. 第三讲手撕Rectified Flow算法，原理，代码
  4. 第四讲手撕JiT算法，原理，代码(一)
  5. 第五讲手撕JiT算法，原理，代码(二)
第二十四章

求解器系列

  1. 第一讲手撕DDIM算法，原理，代码(一)
  2. 第二讲手撕DDIM算法，原理，代码(二)
  3. 第三讲手撕DPM-Solver算法，原理，代码(一)
  4. 第四讲手撕DPM-Solver算法，原理，代码(二)
第二十五章

DiT系列

  1. 第一讲手撕DiT算法，原理，代码
  2. 第二讲手撕MaskDiT算法，原理，代码
  3. 第三讲手撕SiT算法，原理，代码(一)
  4. 第四讲手撕SiT算法，原理，代码(二)