Unity Stencil遮罩实战：5分钟搞定物体穿透效果（附完整Shader代码）
Unity Stencil遮罩实战：5分钟搞定物体穿透效果（附完整Shader代码）
在游戏开发中，我们经常需要实现一些特殊的视觉效果，比如让物体部分穿透显示、局部隐藏或只显示特定形状的部分。这些效果如果通过传统建模方式实现，不仅效率低下，而且难以动态调整。Unity的Stencil Buffer技术正是解决这类问题的利器。
Stencil Buffer（模板缓冲）是GPU提供的一种特殊缓冲区，它允许我们基于像素级别的条件来控制渲染结果。与深度缓冲类似，但提供了更灵活的控制方式。通过合理设置Stencil参数，我们可以实现诸如X光透视、物体局部显示、复杂形状遮罩等高级视觉效果。
1. Stencil核心原理与参数解析
Stencil Buffer的工作原理可以类比为"数字剪纸"：我们首先定义一张"模板纸"（Stencil Buffer），然后在上面"刻出"特定形状（通过设置Stencil值），最后根据这些"刻痕"来决定哪些像素应该被渲染。
1.1 关键参数详解
Unity中的Stencil设置主要包含以下几个核心参数：
| 参数名称 | 作用 | 常用值 |
|---|---|---|
| Ref | 参考值，用于与Buffer中的值比较 | 0-255整数 |
| Comparison | 比较函数，决定如何比较Ref和Buffer值 | Less/Equal/Greater等 |
| Operation | 比较后如何更新Buffer值 | Keep/Replace/Increment等 |
| Read/Write Mask | 读写时的位掩码 | 0-255，默认255 |
**比较函数(Comparison)**决定了像素是否被渲染的规则：
public enum CompareFunction { Disabled = 0, Never = 1, Less = 2, Equal = 3, LEqual = 4, Greater = 5, NotEqual = 6, GEqual = 7, Always = 8 }**操作(Operation)**决定了比较后如何更新Buffer值：
public enum StencilOp { Keep = 0, Zero = 1, Replace = 2, IncrementSaturate = 3, DecrementSaturate = 4, Invert = 5, IncrementWrap = 6, DecrementWrap = 7 }提示：Stencil Buffer默认值为0，Read/Write Mask默认255（不进行掩码操作）
1.2 工作流程解析
Stencil测试发生在深度测试之前，其完整工作流程如下：
- 读取当前像素位置的Stencil Buffer值
- 应用Read Mask进行位运算
- 与Ref值进行比较（根据Comparison设置）
- 根据比较结果决定是否渲染该像素
- 无论是否渲染，都执行Operation更新Buffer值
2. 实战：物体穿透效果实现
现在我们来实现一个典型的穿透效果：当两个物体相交时，只显示相交部分或排除相交部分。
2.1 基础场景设置
首先准备测试场景：
- 创建两个3D对象（如Cube和Sphere）
- 为每个对象创建独立材质（MatCube和MatSphere）
- 调整对象位置使它们部分相交
// 基础Shader结构 Shader "Custom/StencilDemo" { Properties { _Color ("Color", Color) = (1,1,1,1) } SubShader { Tags { "RenderType"="Opaque" } LOD 200 // 这里将添加Stencil配置 // ... } }2.2 穿透效果Shader配置
实现相交部分显示效果的Shader配置：
// Cube材质Shader的Stencil部分 Stencil { Ref 1 Comp Always Pass Replace } // Sphere材质Shader的Stencil部分 Stencil { Ref 1 Comp Equal Pass Keep }这种配置会产生以下效果：
- Cube会将所有渲染区域的Stencil Buffer值设为1
- Sphere只会在Buffer值为1的区域（即Cube渲染过的区域）显示
- 最终效果：只显示两个物体的相交部分
2.3 效果变体：排除相交部分
如果想实现相反效果（显示不相交部分），只需修改Sphere的Comparison：
Stencil { Ref 1 Comp NotEqual Pass Keep }3. 高级应用技巧
掌握了基础用法后，我们可以实现更复杂的效果。
3.1 多层遮罩控制
通过设置不同的Ref值，可以实现多层遮罩效果：
- 第一层物体设置Ref=1, Operation=Replace
- 第二层物体设置Ref=2, Operation=Replace
- 显示物体设置：
Stencil { Ref 1 Comp Equal Pass Keep }
3.2 动态修改Stencil参数
通过C#脚本可以运行时动态修改Stencil参数：
// 获取材质实例 Material mat = GetComponent<Renderer>().material; // 修改Stencil参数 mat.SetInt("_StencilRef", 2); mat.SetInt("_StencilComp", (int)CompareFunction.Equal); mat.SetInt("_StencilOp", (int)StencilOp.Replace);注意：直接修改材质属性会创建实例，如需批量修改应考虑使用MaterialPropertyBlock
3.3 与UI系统的结合
Stencil也可用于UI系统的特殊效果，如不规则形状按钮：
// UI遮罩Shader Stencil { Ref 1 Comp Always Pass Replace } // 被遮罩UI元素的Shader Stencil { Ref 1 Comp Equal Pass Keep }4. 完整Shader代码与优化建议
4.1 完整Shader模板
以下是可直接复用的Stencil效果Shader模板：
Shader "Custom/StencilFilter" { Properties { _MainTex ("Texture", 2D) = "white" {} _Color ("Color", Color) = (1,1,1,1) [Enum(UnityEngine.Rendering.CompareFunction)] _StencilComp ("Stencil Comparison", Int) = 8 [IntRange] _StencilRef ("Stencil Reference", Range(0, 255)) = 0 [Enum(UnityEngine.Rendering.StencilOp)] _StencilOp ("Stencil Operation", Int) = 0 } SubShader { Tags { "Queue"="Geometry" "RenderType"="Opaque" } Stencil { Ref [_StencilRef] Comp [_StencilComp] Pass [_StencilOp] } CGPROGRAM #pragma surface surf Standard fullforwardshadows #pragma target 3.0 struct Input { float2 uv_MainTex; }; sampler2D _MainTex; fixed4 _Color; void surf (Input IN, inout SurfaceOutputStandard o) { fixed4 c = tex2D (_MainTex, IN.uv_MainTex) * _Color; o.Albedo = c.rgb; o.Alpha = c.a; } ENDCG } FallBack "Diffuse" }4.2 性能优化建议
渲染顺序控制：
- 先渲染Stencil写入物体，再渲染Stencil测试物体
- 可通过修改Renderer的materialRenderQueue或Shader的Queue标签调整
减少Stencil Buffer写入：
- 不需要更新Buffer时使用Operation=Keep
- 使用Write Mask限制写入范围
多相机处理：
- 不同相机使用不同的Stencil Buffer
- 可通过Camera.clearStencilAfterRenderTarget设置
移动端优化：
- 尽量使用简单的Comparison函数（Equal/Less等）
- 避免每帧修改Stencil参数
5. 常见问题解决方案
5.1 遮罩效果不显示
可能原因及解决方法：
渲染顺序错误：
- 确保写入Stencil的物体先渲染
- 使用Frame Debugger检查实际渲染顺序
Ref值不匹配：
- 检查写入和读取的Ref值是否一致
- 确认Read/Write Mask设置正确
Shader不支持：
- 确保Shader包含Stencil块
- 检查Shader编译目标级别（至少Shader Model 3.0）
5.2 与透明物体的交互
处理透明物体时的注意事项：
透明物体需要额外的渲染队列设置：
Tags { "Queue"="Transparent" "RenderType"="Transparent" }可能需要关闭深度写入：
ZWrite Off混合模式设置：
Blend SrcAlpha OneMinusSrcAlpha
5.3 多平台兼容性
不同平台的Stencil Buffer行为可能略有差异：
移动平台：
- 某些低端设备Stencil Buffer精度有限
- 建议测试Ref值在0-15范围内
WebGL：
- 需要确认WebGL上下文创建时启用了Stencil Buffer
- 在Unity Player Settings中启用Stencil选项
VR平台：
- 注意单通道立体渲染的影响
- 可能需要特殊的Shader变体处理