课时01

DeepSeekV3整体架构与超参数设置

更新时间：2026-09-30

课时02

大模型参数量统计

更新时间：2026-09-30

课时03

MLA模块参数设置

更新时间：2026-09-30

课时04

Attention中v的维度可以和qk不同

更新时间：2026-09-30

课时05

FLOPs的估算

更新时间：2026-09-30

课时06

复数、极坐标、向量旋转

更新时间：2026-09-30

课时07

枚举所有pairs的旋转矩阵e^mθ

更新时间：2026-09-30

课时08

讲解提前枚举e^mθ的意义

更新时间：2026-09-30

课时09

代码实现RoPE详解

更新时间：2026-09-30

课时10

理解不同维度旋转角度变化频率不同

更新时间：2026-09-30

课时11

YaRN长上下文扩展技术

更新时间：2026-09-30

课时12

YaRN代码实现详解

更新时间：2026-09-30

课时13

构建Attention类

更新时间：2026-09-30

课时14

计算YaRN技术中的注意力缩放

更新时间：2026-10-31

课时15

MLA代码实战全过程

更新时间：2026-10-31

课时16

Attention层的权重初始化代码

更新时间：2026-10-31

课时17

kaiming_normal_参数初始化的推导

更新时间：2026-10-31

课时18

构建FFN类

更新时间：2026-10-31

课时19

构建TransformerBlock

更新时间：2026-10-31

课时20

参数初始化_按层线性缩放

更新时间：2026-10-31

课时21

代码实现DeepSeekV3模型

更新时间：2026-10-31

课时22

补充一下RoPE公式的推导

更新时间：2026-10-31