Board logo

标题: 后知后觉 才知道 AI PC NPU这个概念就是骗人的 [打印本页]

作者: beterhans    时间: 2026-3-23 00:46     标题: 后知后觉 才知道 AI PC NPU这个概念就是骗人的

posted by wap, platform: Firefox
最近开始折腾显卡跑本地大模型,顺便研究了下 Mac 那种内存=显存的概念,回头再看现在市面上吹的“AI PC”,真觉得全是智商税啊

说白了,现在的 AI PC 根本就跑不动真正的 AI 模型。本质上就是个普通笔记本,既没大显存,也没像 Mac 那样能把内存当显存用。

我特意去查了下那个所谓的 NPU,发现这玩意儿目前顶多也就跑个视频背景模糊、动态修图降降功耗啥的,跟跑AI模型没半毛钱关系。最多也就是给微软 Windows 自带的 Copilot 预处理加个速,结果最后还是得传到端服务器去算。
作者: 君思睿    时间: 2026-3-23 07:24

posted by wap, platform: iPhone
微软那个明显不行,例如画图里面要去删除物体,要等一阵,一直被人骂Microslop,还喜欢强制安插这种垃圾AI到系统中。

Mac就好得多,虽然早就自带NPC,但对llm支持不太好,不过反过来很多自带AI的软件流畅度和速度都远超Windows,确实有用。
作者: 黄金大表哥    时间: 2026-3-23 08:19

posted by wap, platform: Android
思路清奇。
刚出蛋壳的小鸡仔楼主要吃吗?
商家卖CPU+npu就是卖给你一窝鸡,搭个鸡仔凑数而已。真牛逼的话得按GPU形式,出独立或至少是大号NPU啊。
npu能搞搞语音识别,ps去噪,就很不错了,你是搞混了低阶ai和高阶ai的区别了吧?
现在能有点智商的大模型,普遍还是用GPU跑的,没几个上npu的。

本帖最后由 黄金大表哥 于 2026-3-23 00:20 通过手机版编辑
作者: sigmaxion    时间: 2026-3-23 09:42

posted by wap, platform: VIVO
知道是骗人的并不高明,如何骗到人才叫高明
作者: 踩姑娘的小蘑菇    时间: 2026-3-23 10:47

NPU用于终端基于模型跑计算,不跑模型训练,俗称计算卡、物联边缘卡,PC上NPU出现很晚但在移动设备上早就大规模运用,手机上“刷脸”就是NPU的活
GPU这类属于训练卡,计算也没问题
生态上GPU有圈子,黄皮最大,由于模型属于硬软合一的产物,
作者: xwings    时间: 2026-3-23 11:05

posted by wap, platform: Android
所以370和395跑ai意义不大?
作者: aweiwei    时间: 2026-3-23 11:14

posted by wap, platform: MAC OS X
跑本地模型,现在的计算硬件、内存以及存储都不能满足需求,哪怕你自己单独搭一个专用的服务器,也很难得到靠谱、准确的结果。要么就是极轻度的应用,不涉及联网更新的。
跑云模型,那还要这么高级的硬件干啥。
作者: 塌方    时间: 2026-3-23 11:16

posted by wap, platform: MAC OS X
npu这个东西感觉特别离谱,谁都能造,各家也几乎没有任何详细参数和架构,只有一个最终指标
作者: 光顶肥宅    时间: 2026-3-23 11:22

posted by wap, platform: MAC OS X
过去两年苹果天天被嘲笑ai掉队了,结果今天发现本地ai苹果硬件最具性价比,233
作者: 夏青    时间: 2026-3-23 11:35

posted by wap, platform: 华为
引用:
原帖由 @beterhans  于 2026-3-23 00:46 发表
最近开始折腾显卡跑本地大模型,顺便研究了下 Mac 那种内存=显存的概念,回头再看现在市面上吹的“AI PC”,真觉得全是智商税啊

说白了,现在的 AI PC 根本就跑不动真正的 AI 模型。本质上就是个普通笔记本,既没大显存,也没像 Mac 那样能把内存当显存用。

我特意去查了下那个所谓的 NPU,发现这玩意儿目前顶多也就跑个视频背景模糊、动态修图降降功耗啥的,跟跑AI模型没半毛钱关系。最多也就是给微软 Windows 自带的 Copilot 预处理加个速,结果最后还是得传到端服务器去算。
不知道在说什么

amd的Strix halo和intel的Panther lake都是统一内存的构架
作者: hftrrt    时间: 2026-3-23 11:45

AI PC应该是amd 395MAX那种吧,也是统一内存,虽然内存带宽没有mac大,胜再便宜,20000不到就128GB内存




欢迎光临 TGFC Lifestyle (http://bbs.tgfcer.com/) Powered by Discuz! 6.0.0