FreeToken:在消费级显卡上跑 290B+ 顶级 MoE 大模型
今天在 GitHub Trending 上看到一个有意思的项目:FreeToken,一个专为消费级硬件打造的边缘原生 MoE 推理引擎——它可以让你的游戏显卡在家跑出 290B+ 前沿 MoE 模型...
今天在 GitHub Trending 上看到一个有意思的项目:FreeToken,一个专为消费级硬件打造的边缘原生 MoE 推理引擎——它可以让你的游戏显卡在家跑出 290B+ 前沿 MoE 模型...
今天在 GitHub Trending 上看到一个有意思的项目:dive-into-llms(《动手学大模型》系列编程实践教程)。它源自上海交通大学的课堂讲义,把大模型领...