posted by wap, platform: Chrome
新的CPU都号称可以对AI进行加速。

但国内能用到的各种AI平台，比方说豆包、KIMI、元宝之类的，都是云端部署的，和你本地CPU以及AI加速运算没啥关系啊。

如果不修图、跑视频之类的，还能有什么生产力相关的AI辅助功能呢？

最近我试过提问一些法规相关的内容，各家总结的都一般，并没有针对具体问题给出前后呼应且系统化的全流程描述，这还是不断提示和补充之后的结果。也有可能是简体中文内容不是很正规？

一些文档的总结倒是比较靠谱，但真想着对一些制式文档进行个别内容的统一修订，各家AI都无能为力，没法处理和输出正经的office文档。

posted by wap, platform: iPhone
画图ai很吃性能

posted by wap, platform: Chrome
万一断网怎么办？本地部署AI就是为了能离线用，或者是出于隐私考虑

posted by 论坛助手, platform: iPhone
AI还是走的多小核路线，cpu那点根本没用

cpu是内部集成了个npu一类跑本地小模型用的

有一些特化型小模型本地部署很方便使用，要说大用处吗 肯定不如ChatGPT这种大大大模型了

posted by wap, platform: Chrome
我猜类似ADOBE全家桶新搞的那些AI功能，还有本地AI绘图可以加速一下吧，让没有独显的轻薄本在这方面不至于太差。

文档总结之类的，我感觉本地算力不够

如果你搞3d建模用blender这种，本地部署一个ai辅助建模就是生产力

毕竟是专业用途，适用的地方不多

posted by wap, platform: MAC OS X
AI是你提交的资料，人家公司都知道，所以最大的用途就是隐私。例如如果我开发一套简历、报账、文档自动分类识别OCR的工具，你说公司会让你扔给第三方AI去做？


还有就是API给其它工具调用。虽然价格现在是越来越低了，例如Google的Gemini用来语音念书，1小时也就0.00xx美分，简直不要钱一样。

posted by wap, platform: iPhone
跑个简单的弱智的娱乐的问答机器人吧。。。。。。

23年泥潭就有好多人分享本地部署画图 图生视频的模型了

posted by wap, platform: iPhone
说了半天没什么用嘛

posted by wap, platform: Chrome
我是学精算和统计的，但手艺其实是传统概率，纸笔打天下，所以本地模型还蛮适合我做的事情；
我主要用来跑我自己的小模型，一般用R来做前期的事情，包括最初的模拟和公式验证之类的。
然后敲代码，小范围跑一下，甚至也会有训练。
最后考虑上服务器或者云，一些算法其实我也不是那么熟，这个时候让算法工程师来接剩下的会顺利一些。

主要还是无内容审查(NSFW)

一般就是无规则的情况下跑图和跑文本。一句话，搞黄暴正治宗教类，现在再牛逼的线上ai都有审查制度

本地优势在于无审核，自己喜欢那些基本都是线上不让做的。

posted by wap, platform: Chrome
去码啊