» 您尚未登录:请 登录 | 注册 | 标签 | 帮助 | 小黑屋 |


发新话题
打印

[其他] 才知道FF15居然有FP16渲染模式

nkaito

魔头

帖子
1537 
精华
0 
积分
2239 
激骚
53 度 
爱车
Model S 
主机
PS全系列、3DS、WIIU 
相机
 
手机
6S 
注册时间
2013-10-15 
1# 大 中 小 发表于 2018-8-18 00:41  显示全部帖子
现在深度学习推论都用上8bit计算了，比如谷歌的TPU
不知道图形处理对精度有什么要求

TOP

nkaito

魔头

帖子
1537 
精华
0 
积分
2239 
激骚
53 度 
爱车
Model S 
主机
PS全系列、3DS、WIIU 
相机
 
手机
6S 
注册时间
2013-10-15 
2# 大 中 小 发表于 2018-8-18 01:50  显示全部帖子
引用:
原帖由 卖哥 于 2018-8-18 00:54 发表

做选择题和做填空题精度要求不一样。
实际上深度学习在做填空的时候精度要求也不低的。
tensorflow默认也就16bit半精度

TOP

发新话题
     
官方公众号及微博