全部
全部

选一篇,慢慢读

从左侧挑一篇,正文会在这里排成书页。

文章与公开阅读资产

LLM 架构图库:10 个新模型,涵盖 MoE、先进注意力机制与 100 万上下文

📌 一句话摘要 Sebastian Raschka's updated LLM Architecture Gallery compares 10 recent models across MoE adoption, attention innovations, and 1M token context support. 📊 文章信息 AI 初评: 78 来源: 山景城小路(@Zen with AI) 作者: 山景城小路 分类: 人工智能 语言: 中文 阅读时间: 3 分钟 字数: 580 标签: AI 与智能应用 , 大语言模型 (LLM) , 注意力机制 , 长上下文 , 混合专家模型 阅读推文

阅读原文 · 山景城小路

乔木风格重写

向阳乔木 · deepseek-v4-1-flash-261017

Sebastian Raschka 更新了他的 LLM 架构图库,一口气放进 10 个新模型。这批模型的共同点很集中:MoE 几乎成了默认配置,注意力机制各有各的改法,上下文窗口开始往 100 万 token 走。 如果只看发布会通稿,会觉得这些模型都在堆参数。但把架构摊开对比,能看到几条清晰的分化路线。 MoE 不再是少数派的选择 混合专家模型(MoE)在...

  • JK下一篇 / 上一篇
  • S收藏
  • A问 AI
  • I沉浸阅读
  • Esc退出