aigc_interview_note

llm aigc 相关知识及面试题

本仓库为大模型面试相关概念，由本人参考网络资源整理，欢迎阅读，如果对你有用，麻烦点一下 🌟 star，谢谢！

其他学习资源推荐：

• tiny-llm: 实现一个简单 llm，模型架构：整体模型架构采用开源通用架构，包括：RMSNorm，RoPE，MHA 等 实现细节：实现大模型两阶段训练及后续人类对齐，即：分词(Tokenizer) -> 预训练(PTM) -> 指令微调(SFT) -> 人类对齐(RLHF, DPO)-> 测评 -> 量化 -> 部署。
• tiny-rag: 实现一个简单的 RAG 系统，支持多路召回、重排等功能，快速了解搜索相关内容
• tiny-rlhf: 实现一个简单的 rlhf，包括 actor model、reference model、reward model、critic model4 个模型的更新迭代

在线阅读

在线阅读链接：aigc_interview_notes

注意：

• ✍️ 公众号会整理 LLM、AIGC 的入门笔记、论文学习笔记、一线大厂面经等

欢迎关注加入知识星球，会不定期更新 AIGC 相关知识，以及一些面试、业务落地经验：

目录

• 首页

• LLM 基础

  • 1. 数据篇
    • 1.1 数据来源
  • 1.2 数据预处理
    • 1.2.1 质量过滤
    • 1.2.2 敏感内容过滤
    • 1.2.3 冗余去重
    • 1.2.4 tokenizer 分词
  • 1.3 面试题

• 2.大模型架构

  • 2.1 基础知识
  • 2.2 因果解码器
    • 1.位置编码
    • 2.layer_normalization
    • 3.激活函数
  • 2.3 注意力
    • Self Attention
    • MHA
    • MQA
    • GQA
    • MLA
    • 小结
  • 2.4 llama 系列
    • llama 系列模型
  • 2.5 MoE
    • MoE 经典论文
  • 2.6 面试题

• 3.分布式训练

  • 3.1 基础知识
    • 3.1.1.数据并行
    • 3.1.2.流水线并行
    • 3.1.3.张量并行
    • 3.1.4.序列并行
    • 3.1.5.多维度混合并行
    • 3.1.6.自动并行
    • 3.1.7.moe 并行
    • 3.1.8.总结
  • 3.2 DeepSpeed
    • deepspeed 介绍
  • 3.3 Megatron
  • 3.4 面试题

• 4.RLHF

  • 4.1 基础知识
    • 策略梯度（pg）
  • 4.2 DPO
  • 4.3 PPO
  • 4.3 面试题

• 5.有监督微调

  • 5.1 理论
    • 1.基本概念
    • 2.prompting
    • 3.adapter-tuning
    • 4.lora
    • 5.总结
  • 5.2 微调实战
    • llama2 微调

• 6.大模型推理

  • 6.1 推理框架
  • 6.2 推理优化技术
  • 6.3 量化
  • 6.4 面试题

• 7.检索增强 RAG

  • 7.1 RAG 概述
  • 7.2 高级 RAG
  • 7.3 RAG 实践
  • 7.4 面试题

• 98.相关课程

• 99.参考资料