» 您尚未登录:请 登录 | 注册 | 标签 | 帮助 | 小黑屋 |


发新话题
打印

呵呵

一句话,半精度需要有选择有技巧的使用。
主要就是要控制数据范围。超出范围自然完蛋,而浮点数随着表示数字绝对值的增大,精度会下降,FP16想要比较好的精度,最好控制在512以内。超过2048以后,就无法保证个位的精度了。
比如,和位置相关的运算,尽量别用。但基本基于规则化空间的运算,一般没什么问题,只是需要注意,中间运算值的范围。在有些情况下可能需要调整一下算法。
倍速半精度肯定是有用的。但指望最终帧数翻倍那是想多了,一方面能提升的仅仅是shader运算方面的性能,而且实际达不到2倍,而且程序整体的性能瓶颈是多样而多变的,并不是完全在shader部分的。


TOP

发新话题
     
官方公众号及微博