全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

Kimi K2.5 技术解读:原生多模态联合训练与并行 Agent 编排训练

1. TL;DR Kimi K2.5 有几个我觉得很值得关注的点: 固定视觉 token 总预算下,Early Fusion + 低视觉比例(10%)全面优于 Late Fusion + 高视觉比例(50%) ——这与业界常见的先训练文本模型,然后"后期大量注入视觉数据"的做法相反 Zero-Vision SFT :纯文本 SFT 即可激活视觉推理能力,人工标注的视觉轨迹数据反而损害泛化 跨模态双向增强 :Outcome-Base 视觉 RL 不仅不损害文本能力,反而提升了 MMLU-Pro(+1.7)、GPQA-Diamond(+2.1)等文本 benchmark Agent Swarm(PARL) :冻结 sub-agent、只

阅读原文 · 袁超发技术博客

乔木风格重写

向阳乔木 · deepseek-v4-1-flash-261017

Kimi K2.5 的论文里藏着一个和主流做法相反的结论: 在视觉 token 总预算固定的前提下,从头混入 10% 视觉数据的训练效果,全面好过后期猛灌 50% 视觉数据。 这跟过去两年多模态模型的常见路线正好相反。业界习惯先把文本模型练到很强,再在训练后段集中注入大量视觉数据。K2.5 的消融实验把这个范式掀翻了。 这篇原文链接信息密度很高,下面按“多模...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出