以下为上游提供的源文稿,可能存在识别错误。
乔木转写是基于源文稿的中文提炼,不是逐字翻译。请核对原文中的人名、数字与观点。
选一篇,慢慢读
从左侧挑一篇,正文会在这里排成书页。
Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦 https://justvugg.github.io/colibri Website · Discord · English · 简体中文 · 繁體中文 · Italiano · 日本語 · Bahasa Indonesia · Português (Brasil) Tiny engine, immense model. colibri runs very large op
阅读原文 · GitHub Trending
向阳乔木 · deepseek-v4-1-flash-261017
一个 7440 亿参数的模型,在一台只有 16 GB 内存的笔记本上跑起来,速度是 0.05 tok/s。慢得离谱,但它确实在跑。 这就是 JustVugg/colibri 想证明的事: 大模型不必装进内存,只要放对位置 。 一个数字说清它的思路 GLM-5.2 有 744B 参数,每个 token 只用其中约 40B。而真正在相邻 token 之间变化的,...