AI Compiler Drills/ 提示与讲解
提示与讲解

AI Compiler Drills · 提示与讲解

每道题一页:背景、参考解逐段讲解、图解、类比和钉死版本的源码链接。建议先自己写,卡住了再来看。

Track K · 共同知识主线

GEMM 资源账、benchmark 方法、数值正确性、fusion 取舍:两个项目都要用的基本功。

K1GEMM tile 账本:FLOPs、搬运量、smem / 寄存器、occupancy、wave45 min · 易
K2可信的 benchmark:warmup、同步、中位数、compile 与 run 分离30 min · 易
K3数值正确性:ULP、容差、重结合、边界形状45 min · 中
K4Fusion 的账:launch、中间结果流量与寄存器压力30 min · 中

Track T · Triton(kernel compiler)

从 @triton.jit 到 PTX:IR 各层、layout 与 coalescing、autotune、最小复现、lit/FileCheck 测试。

T1IR dump lab:同一个 kernel 的 TTIR / TTGIR / LLVM IR / PTX60 min · 易
T2Layout reasoning:复刻 coalesce pass,lane → 坐标,convert_layout 的代价75 min · 难
T3GEMM tile sweep:prune → perf model → do_bench → 选最优45 min · 中
T4Correctness bug minimization:fuzz → 失败 → 缩小 → 回归测试45 min · 中
T5lit / FileCheck:自己写一个 FileCheck,读懂 Triton 的编译器测试60 min · 难

Track L · Luminal(graph compiler)

primitive graph、e-graph 与 equality saturation、实测驱动的搜索、执行计划与 arena、Reference vs CUDA 对拍。

L1Graph semantics:把 relu(x @ w + b) 拆成 primitive ops40 min · 易
L2E-graph 从零写:union-find、rebuild、rewrite、saturation、extraction75 min · 难
L3Search:genome、GA、实测排名、finalists 与代理成本50 min · 中
L4Backend trace:选中计划 → launch 列表 → arena 分配(plan_slab)45 min · 中
L5Differential test:Reference vs CUDA,带理由的容差45 min · 中

Track X · 互补实验

同一个 workload 两边各走一遍:kernel 怎样生成和跑快,graph 怎样选对实现。

X1共同实验:同一个 fused MLP,在 Triton 和 Luminal 两边量一遍120 min · 中

Track P · 第一笔贡献

从 issue 到 merged PR:复现、定位、最小改动、测试、benchmark 证据。

P1贡献实战:issue 筛选、#370 复现、PR 模板、review 节奏180 min · 中