» 您尚未登录:请 登录 | 注册 | 标签 | 帮助 | 小黑屋 |


发新话题
打印

不懂就问,在家部署本地ai模型跟agent区别在哪儿?具体意义又是啥?

1 这两天流行的moltbot说是24小时的私人agent,这个和之前需要用到高配电脑部署的本地ai大模型有啥区别?
模型是理解和思考的中枢,moltbot则是 连接 模型 和工具 的机器人,例如你问ds做一个计算器程序,ds给你输出了整个源码了,你复制粘贴到编译器编译运行。。。  而现在, moltbot可以完成 任务分发,将计算器程序需求发给ds,ds给出源码后,moltbot将源码拿到你电脑的编译器进行编译,然后通过微信或者qq将程序发给你。

这里可见,moltbot具有操作电脑的能力,这也是目前对齐安全性的最大忧虑和争吵。

2 本地安装ai大模型的好处是啥?
不用考虑token输出费用,不联网,你扔个文档给模型分析,不用担心泄露问题。。。可以进行模型微调,能更好地符合你的业务需求(线上微调模型收费比较高现在)

3 都实现本地化了,与我直接问gemini区别又在哪儿?
本地化目前无非就是投入硬件费用极高,即使是中型企业,也要花费巨额来搭配匹配企业业务规模的本地ai。。。
本地化后续提升算力投入也是一个无底洞。。。

4 作为一个非码农也不需要经常写报告做ppt的人,ai目前对我能给些啥帮助?
问一些古灵精怪的问题。。。问问相关方案和计划的补充点。。完善自身的思维范围。。。


TOP

发新话题
     
官方公众号及微博