全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

从零手写 RoPE 位置编码:原理、PyTorch 源码实现与可视化理解

0. 阅读收获 (takeaway) 本文旨在彻底搞懂 RoPE(Rotary Position Embedding)位置编码,阅读完本文你将获得: 理解 RoPE 的核心思想:为什么用"旋转"来编码位置信息 掌握 RoPE 的数学原理:从旋转矩阵到三角函数证明 从零手写 RoPE 实现:逐行代码讲解,可直接运行 bonus:可视化理解 RoPE:通过热力图和动画直观感受旋转编码 本文代码运行于: Featurize 蒜粒方块 GPU 算力平台 ,有 GPU 使用需求的同学希望能使用 我的邀请链接注册 待更新:不喜欢看文字的同学可以看 B站视频-chaofa用代码打点酱油 , YouTube-chaofa用代码打点酱油 ,或视频号:

阅读原文 · 袁超发技术博客

乔木风格重写

向阳乔木 · deepseek-v4-1-flash-261017

语言模型读一句话,靠什么知道“朝发写代码”和“代码写朝发”不是一回事?答案藏在 Self-Attention 的公式里:它压根不知道顺序。 注意力机制算的是 token 之间的权重,两个句子换个词序,权重矩阵长得一模一样。语言的意思却天差地别,所以必须有人手动把“位置”这件事塞进模型。这就是位置编码存在的理由。 从零手写 RoPE 位置编码 这篇长文把 Ro...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出