技术奇异点

写上一篇《GPU 时代的 C-style 字符串》时尽管反复求证，有一点还是搞错了。

Metal 的 fixed-function 部分缺省行为即执行 premultiplication。也就是说，在关闭 blending 时下面的 shader 代码，

会写入：float4(vert.rgb * vert.a, vert.a) 。

上面描述是错误的。事实是 Metal 的 fixed-function 缺省行为不执行 premultiplication，上面的 shader 代码例子原样写入 float4(vert.r, vert.g, vert.b, vert.a)。

说来好笑，上篇 blog 写到一半时的草稿对 fixed-function 的解释本来是正确的。当时我还跑到隔壁的同事办公室大谈了一番。然后晚上 blog 结稿之前做实验晕了头，发布了错误结论，第二天早上又到同事办公室宏论一番。今天再次确认之后，只好第三次去同事那边订正。

所谓「结稿之前做实验」是这样的：Nuo Viewer Model 里有个新加的 screen-space render pass 在关闭 blending 的设置下产生一个 texture，之后其它 render pass 会用到它。我发现如果把它作为 un-premultiplied 形式处理（也就是说再「手工」乘一次 alpha 变成 premultiplied 形式）就会出现「黑边」。而且在 Metal debugger 的 texture viewer 里也看到 RGB 值似乎和 alpha 成正比。于是当晚在 blog 里宣布「Metal 的 fixed-function 部分缺省行为即执行 premultiplication」。

事实上我忽略了一件事：screen-space render pass 打开了 MSAA，在 fragment 边缘进行针对 fragment coverage 的 blending。这时的输出是：fragment 内部区域是 un-premultiplied 形式，边缘是针对 vert.a 和 coverage 的混合计算结果（前者 un-premultiplied，后者 premultiplied）。简而言之，错误的垃圾结果。经过这次教训，「GPU 强制采用 premultiplied 形式情况」的列表补全为：

• On-screen 显示；
• 会被 resample；
• 开启 multi-sample anti-alias (MSAA)；
• （其它未知因素）……

总的来说，尽管 Metal 的 fixed-function 缺省行为不执行 premultiplication，程序员还是要老老实实的保证每一个 fragment shader 都输出 premultiplied 形式 —— 要么在 shader 代码里直接做，要么用 fixed-function blending 去做。否则碰到上面列表的任何一项就会产生垃圾结果。该乘法必须在写入 texture 之前做 —— 是为 pre-multiplication，而不能在 sample texture 的时候做，原因嘛，再看看上面关于 MSAA 的实验就清楚了。

虽然这是一篇更正，但是丝毫无损于上一篇的结论 ——「GPU 时代的 C-style 字符串」。

This entry was posted on 2017/10/14 at 12:09 上午 and is filed under 软件开发, Mac OS X. You can follow any responses to this entry through the RSS 2.0 feed. You can leave a response, or trackback from your own site.