大显存才有未来
144G显存是未来的目标，可以跑远超过现在qwen 3.8 27B的原生模型。这个开源模型已经接近deepseekv4flash0731了，放到去年就是最强的旗舰模型了，很难想象两年后的开源模型会是什么能力

超10万的玩具还是多机种和存储累计的，我以为就一台PC。

本地ai确实很有必要，只是现在还没预算买，如果有钱我也会买一个

posted by wap, platform: Firefox
本地大模型能干啥啊，完全不懂。

posted by wap, platform: iPhone
玩游戏不如5090？
那怎么要6位数

跑dense模型不如多搞两块满血5090

本地跑大模型还是太慢，一个工作任务基本几千万token，本地一秒几百上千token的速度，还是够呛。

posted by wap, platform: Chrome

引用:

原帖由 @realsquall  于 2026-8-22 13:22 发表
我再加一张就可以完整全速跑deepseekv4flash0731了，未来也会有更好的模型出现，买一个未来

2张72G就能跑了？说来惭愧，我4张A100 80G至今没搞定

posted by wap, platform: Android
正常就直接H200不过还是不急。

posted by wap, platform: Android
就玩吗，那5090完全够了，干正经事又不够，属实就是钱多233

233，5090要能干一切活，hbm2,3,rubin就没有啥用了

引用:

原帖由 dabing 于 2026-8-23 01:56 发表
posted by wap, platform: Android
正常就直接H200不过还是不急。

H200喷了

引用:

原帖由 Ravanelli 于 2026-8-23 01:45 发表
posted by wap, platform: Chrome
2张72G就能跑了？说来惭愧，我4张A100 80G至今没搞定

80多G权重模型就够了，加上上下文，144G足够了。

[ 本帖最后由 realsquall 于 2026-8-23 11:41 编辑 ]

引用:

原帖由 zyx 于 2026-8-23 00:08 发表
跑dense模型不如多搞两块满血5090

pcie p2p不支持，要修改驱动非常麻烦，而且总显存还是太小，没啥意思。

引用:

原帖由 naughtyben 于 2026-8-23 00:07 发表
posted by wap, platform: iPhone
玩游戏不如5090？
那怎么要6位数

这机器不玩游戏