以下为上游提供的源文稿，可能存在识别错误。
乔木转写是基于源文稿的中文提炼，不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇，慢慢读
从左侧挑一篇，正文会在这里排成书页。
Attention remains a substantial computational cost in Transformer training, particularly at long context lengths. NVIDIA Blackwell GPUs provide high-throughput low-precision matrix multiplication, but exploiting it in attention requires addressing quantization overhead, causal information leakage through shared scales,
阅读原文 · Fedor Velikonivtsev, Mikhail Koltakov, Denis Kuznedelev
向阳乔木 · deepseek-v4-1-flash-261017
这篇论文瞄准的是 Transformer 训练里最贵的那块开销：注意力计算。Blackwell 提供了高吞吐的低精度矩阵乘法，但真把 FP8 甚至 FP4 用到 attention 上，麻烦不在算力，在量化本身的开销、因果掩码下的信息泄漏，以及前后向数值不一致。 FLAMIA 给出的答案是三个层面一起设计：量化方式、训练数值、文档调度。 它不是单纯调 ker...