正在建立 40 层解剖视图
PREFILL · READY
/
STEP 01—170
从输入表示开始
未开始
已有前缀已就绪;点击播放,逐层追踪下一 token。
›
概览
拖动旋转滚轮缩放右键平移
· 点击任意层抽出剖视
Full
Reindex
Reuse
SWA
全局 KV
MoE
残差 / 主路径
Engram
3D 为计算结构示意,非物理布局;token 切分、概率、具体 attention / 专家选择均为教学模拟。
SELECTED
整体架构
40 层 · 20 + 20
MODEL SPACE · Y↑ LAYER ORDER