以下为上游提供的源文稿,可能存在识别错误。
乔木转写是基于源文稿的中文提炼,不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇,慢慢读
从左侧挑一篇,正文会在这里排成书页。
1. TL;DR Kimi K2.5 有几个我觉得很值得关注的点: 固定视觉 token 总预算下,Early Fusion + 低视觉比例(10%)全面优于 Late Fusion + 高视觉比例(50%) ——这与业界常见的先训练文本模型,然后"后期大量注入视觉数据"的做法相反 Zero-Vision SFT :纯文本 SFT 即可激活视觉推理能力,人工标注的视觉轨迹数据反而损害泛化 跨模态双向增强 :Outcome-Base 视觉 RL 不仅不损害文本能力,反而提升了 MMLU-Pro(+1.7)、GPQA-Diamond(+2.1)等文本 benchmark Agent Swarm(PARL) :冻结 sub-agent、只
阅读原文 · 袁超发技术博客
向阳乔木 · deepseek-v4-1-flash-261017
Kimi K2.5 的论文里藏着一个和主流做法相反的结论: 在视觉 token 总预算固定的前提下,从头混入 10% 视觉数据的训练效果,全面好过后期猛灌 50% 视觉数据。 这跟过去两年多模态模型的常见路线正好相反。业界习惯先把文本模型练到很强,再在训练后段集中注入大量视觉数据。K2.5 的消融实验把这个范式掀翻了。 这篇原文链接信息密度很高,下面按“多模...