相关教程test

第一天

主题：LLM初体验

上午：

一，大模型的发展背景和模型演进

• 数据增长和算力提升
• LSTM到BERT到LLM的参数巨变
• 最新paper解读（根据授课时间，选择最近的核心paper进行解读）

二，大模型核心阶段的认识和理解

• 预训练（CLM，Scaling Law等）
• 对齐（SFT，RW，RLHF）
• 微调（p-tuning，p-tuningV2，Lora等）

下午：

三，大模型核心架构详解Transformer

• 基本组成部分
• self-attention中的QKV的含义
• self-attention中scale的作用
• self-attention的时间复杂度问题

四，业界为何使用LLM，应该具备的条件？

• 传统bert-fintuning模式的典型弊端
• 离线需求场景下的llm提示工程
• 什么数据规模可以考虑微调
• 什么阶段应该考虑预训练和对齐工程

---

第二天

主题：必要的提示工程

上午：

一，为什么提示工程是必要的？

• 探索chatGPT的能力上限
• 构建领域能力测试模块（术语解释，常识理解，逻辑逻辑，业务问题退化）
• 提示工程中大模型的指令测试，稳定性测试，准确率测试目的与方法

二，提示工程的标准设计方案

• 基本结构组成（角色，问题，示例，输出格式，注意点）
• 与业务结合的CoT badcase分析方法
• 基于RAG的业务知识注入
• 基于reAct的相关工具使用
• Agent的适应场景和设计方案

下午：

三，提示工程案例剖析：

《领域知识注入的常见问题和解决方案》

• 如何选择知识库的embedding方法
• 如何设计业务上的“相似度度量”

四，前沿提示工程的paper深入解读：

• THE UNLOCKING SPELL ON BASE LLMS: RETHINKING ALIGNMENT VIA IN-CONTEXT LEARNING （来自艾伦实验室）
• Automatic Prompt Optimization with “Gradient Descent” and Beam Search（ 来自微软研究院）

---

第三天

主题：大模型微调

上午：

一，常见微调方法的技术原理解析：

• p-tuning，p-tuningv2
• lora，adalora，qlora等

二，微调数据的分布控制和增强方法

• 如何进行微调数据的分布控制
• 基于CoT的数据逻辑增强
• 将self-instruct应用于微调数据

下午：

三，大模型微调案例剖析

《微调过程的常见问题和解决方案》

• 幻觉问题划分和对应的解决方案
• 复读机问题的本质原因和解决方案

四，前沿微调技术paper的深入解读：

• SLoRA: Federated Parameter Efficient Fine-Tuning of Language Models （来自南加州大学）
• A Comparative Study between Full-Parameter and LoRA-based Fine-Tuning on Chinese Instruction Data for Instruction Following Large Language Model（ Lora技术在中文语料下的对比报告）

---

第四天

主题：大模型的评估与推理加速

上午：

一，大模型的评估指标与方法

• 算法角度的效果和效率评估指标
• 业务指标的设计融合与正相关
• 多层次指标设计的重要性

二，大模型分布式方法与工具

• 数据并行，模型并行，流水线并行，序列并行
• 工具：Deepspeed，Accelerate，Triton

下午：

三，大模型训练平台设计的重要性

• 数据处理流程和算力调度
• 算法团队整体效率提升的关键

四，总结与展望

• 整体总结
• 未来大模型技术展望（架构改进，多模态等）

• Monarch Mixer: A Simple Sub-Quadratic GEMM-Based Architecture （来自neurIPS2023 斯坦福大学）
• Retentive Network: A Successor to Transformer for Large Language Models（来自微软研究院）

• 互动讨论

---

讲师介绍：

周老师

• LLM实战专家，8年算法从业经历，曾就职于字节，快手，宜信等互联网公司，主导算法团队AIGC方向的探索和落地，对大模型预训练，对齐，微调具有丰富工程实践经验。