FreeToken:在消费级显卡上跑 290B+ 顶级 MoE 大模型
今天在 GitHub Trending 上看到一个有意思的项目:FreeToken,一个专为消费级硬件打造的边缘原生 MoE 推理引擎——它可以让你的游戏显卡在家跑出 290B+ 前沿 MoE 模型...
今天在 GitHub Trending 上看到一个有意思的项目:FreeToken,一个专为消费级硬件打造的边缘原生 MoE 推理引擎——它可以让你的游戏显卡在家跑出 290B+ 前沿 MoE 模型...
今天在 GitHub Trending 上看到一个有意思的项目:Marin,一个专注于大语言模型训练全流程的开源平台,其核心价值是「开放开发」——完整记录从原始数据到最终...
今天在 GitHub Trending 上看到一个很有意思的项目:KTransformers(kvcache-ai/ktransformers)。它把"用消费级...
今天在 GitHub Trending 上看到一个令人惊叹的项目:Colibrì,它让一台普通消费级电脑就能运行 744B 参数的超大规模 MoE 模型 GLM-5.2,仅需约 25GB 内存——这在...
今天在 GitHub Trending 上看到一个有意思的项目:GLM-5(zai-org/GLM-5),这是智谱 AI 最新开源的旗舰大模型系列,定位从“Vibe Coding...