mjj们本地跑deepseek,开源最大杯，你们跑起来了吗？

问个事 · 发表于 2025-2-12 23:47:35

狗狗币发表于 2025-2-12 23:09
不是本地部署万人使用，
就是个人使用， 4090 带不动？

阉割版可以跑，但要满血671B版本才可以跑出想要的结果！

嗨起来 · 发表于 2025-2-12 23:15:00

狗狗币 · 发表于 2025-2-13 00:10:42

我想问下 R1 怎么用Multiple Nodes 跑？

狗狗币 · 发表于 2025-2-12 23:27:00

欢迎新会员发表于 2025-2-13 01:00
阉割版可以跑，但要满血671B版本才可以跑出想要的结果！

不跑阉割版，
要满血的，本地化效果。效果可以的话，就去买显卡

狗狗币 · 发表于 2025-2-13 00:13:56

欢迎新会员发表于 2025-2-13 01:00
阉割版可以跑，但要满血671B版本才可以跑出想要的结果！

不强求一张卡，，多张rtx呢？

奧巴马 · 发表于 2025-2-13 00:10:00

aceboy 发表于 2025-2-12 23:15
大内存500G以上也可以，KTransformers开源项目

有满血效果吗？

狗狗币白泠酱 · 发表于 2025-2-13 00:16:07

狗狗币发表于 2025-2-13 10:16
有满血效果吗？

我那不是跑了吗？满血版的671b，硬件少就是慢！和官网不一样的！

狗狗币 · 发表于 2025-2-13 00:13:00

qqlikeho 发表于 2025-2-12 23:27
看你对性能要求有多高了
如果只是想跑起来开1t的swap也可以跑

有满血效果吗？万人血书要求厨子出一款 512GB RAM 的 Mac mini

		自动登录	找回密码
密码			立即注册

mjj们 本地跑deepseek,开源最大杯， 你们跑起来了吗？