posted by wap, platform: iPhone

引用:

原帖由 @爱猫咪的薛定谔  于 2026-6-17 18:17 发表
上下文最多才百万token,而且在服务器端，本地要这数据没有用处，实在看不出占用g内存的理由

服务器存的是kv cache，本地的harness提供的context非常重要。

posted by wap, platform: iPhone
看做什么吧。大部分情况32gb基本够了。
做aaa的游戏开发要64gb才舒服点。
搞什么复杂的comfyui工作流，开放世界aaa游戏，那确实需要128gb往上。

搞本地ai大模型，完全看模型了。感觉和普通人没啥关系了