posted by wap, platform: Android

引用:

原帖由 @随便走走  于 2026-6-17 10:10 发表
网页版我很久没用了，客户端原理很简单，一个对话session的全部聊天都在内存里，因为每一轮对话模型实际上都会根据历史对话形成上下文输入，所以全部对话都在内存里，你关掉重开就没有了，我最多一次都20多g了，都是最新版本。

上下文最多才百万token,而且在服务器端，本地要这数据没有用处，实在看不出占用g内存的理由

posted by wap, platform: Chrome
就是codex优化不行

posted by wap, platform: Firefox

引用:

原帖由 @爱猫咪的薛定谔  于 2026-6-17 18:17 发表
上下文最多才百万token,而且在服务器端，本地要这数据没有用处，实在看不出占用g内存的理由

token是token，缓存是缓存，token不会平白无故产生，其实还是来着缓存， 这是很明显也很好理解的

而且随着智能体上下文空间越来越大，记忆内容肯定也越来越多，缓存必然也会相应膨胀

posted by wap, platform: Firefox

引用:

原帖由 @ginaamix  于 2026-6-17 18:37 发表
就是codex优化不行

你告诉我哪个agent或harness不占内存的，我现在就去换

引用:

原帖由 随便走走 于 2026-6-17 19:02 发表
posted by wap, platform: Firefox
token是token，缓存是缓存，token不会平白无故产生，其实还是来着缓存， 这是很明显也很好理解的

而且随着智能体上下文空间越来越大，记忆内容肯定也越来越多，缓存必然也会相应 ...

缓存在服务端，本地缓存有啥用？
而且缓存是为了再次命中，缓存大只会加快速度（如果命中就不需要重新算了），怎么会越来越慢？

引用:

原帖由 随便走走 于 2026-6-17 19:05 发表
posted by wap, platform: Firefox
你告诉我哪个agent或harness不占内存的，我现在就去换

llm不占用啊，比如豆包...

长对话卡顿的核心原因在于网页 DOM 节点过多。随着消息气泡、代码块、公式、图片及交互按钮的累积，浏览器在重排版、样式计算和内存管理上的压力显著增加。尤其是超过 30 至 50 轮的对话，离屏消息仍占用大量节点，导致交互性能下降。


喷了，和大模型上下文和缓存都没关系，就是页面太大了

posted by wap, platform: Android
1t内存的路过，跑本地deepseek模型只有18tokens

posted by wap, platform: iPhone

引用:

原帖由 @爱猫咪的薛定谔  于 2026-6-17 18:05 发表
你说说看啊，为啥会占用内存，那用网页版会怎么样

网页版我很久没用了，客户端原理很简单，一个对话session的全部聊天都在内存里，因为每一轮对话模型实际上都会根据历史对话形成上下文输入，所以全部对话都在内存里，你关掉重开就没有了，我最多一次都20多g了，都是最新版本。

posted by wap, platform: Chrome
cc和codex的聊天记录默认都是存在本地jsonl文件里，一个session撑死100MB不到，又不是本地跑LLM存kv cache哪里要这么多内存
codex肯定是有不少内存泄漏bug，随便一搜都是内存被吃满的例子
https://www.reddit.com/r/codex/comments/1tyiz7g/possible_codex_memory_leak_42gb_ram_usage_on_m4/

posted by wap, platform: iPhone

引用:

原帖由 @yfl2  于 2026-6-17 19:34 发表
长对话卡顿的核心原因在于网页 DOM 节点过多。随着消息气泡、代码块、公式、图片及交互按钮的累积，浏览器在重排版、样式计算和内存管理上的压力显著增加。尤其是超过 30 至 50 轮的对话，离屏消息仍占用大量节点，导致交互性能下降。


喷了，和大模型上下文和缓存都没关系，就是页面太大了

那为什么要留这些页面在内存里呢，你要不要再多问问ai

posted by wap, platform: Firefox
这种模型在远程 本地还占用那么多内存的话 肯定是有内存泄漏了

引用:

原帖由 随便走走 于 2026-6-17 20:14 发表
posted by wap, platform: iPhone
那为什么要留这些页面在内存里呢，你要不要再多问问ai

你看看别人说的就知道了
你说的缓存什么都不在本地，和上下文也没有关系

这个程序不在意你本地的内存，它又不像微信只显示少部分内容，其他随着滚动再读取，所以导致当前页面不断膨胀，实际上，上下文早就不在了

[ 本帖最后由 yfl2 于 2026-6-17 20:28 编辑 ]

posted by wap, platform: Firefox

引用:

原帖由 @yfl2  于 2026-6-17 20:27 发表
你看看别人说的就知道了
你说的缓存什么都不在本地，和上下文也没有关系

这个程序不在意你本地的内存，它又不像微信只显示少部分内容，其他随着滚动再读取，所以导致当前页面不断膨胀，实际上，上下文早就不在了

上下文其实就是模型的记忆，记忆也分长期记忆和短期记忆，最终的上下文和长期记忆在云端没问题，但短期记忆很可能还是依赖本地，我试过切换一下设备，同账号比如从桌面端到手机端，模型对刚刚提到的内容都健忘失忆了

因此本地缓存和短期记忆还是有关的，不会完全不参与模型交互

引用:

原帖由 随便走走 于 2026-6-17 22:53 发表
posted by wap, platform: Firefox
上下文其实就是模型的记忆，记忆也分长期记忆和短期记忆，最终的上下文和长期记忆在云端没问题，但短期记忆很可能还是依赖本地，我试过切换一下设备，同账号比如从桌面端到手机端， ...

本地没有记忆，因为不参与计算，只是让你看聊天历史而已，存硬盘上也不影响

你切换设备失去上下文，是因为服务方就是这么设置的，同一设备新开一个窗口，上下文都能清空

你想想看，你本地10g“短期记忆”，给openai处理吗？233

[ 本帖最后由 yfl2 于 2026-6-17 23:08 编辑 ]