3.3 约束的数学形式化示例
为了更清晰地说明，我们以公平性和隐私保护为例，展示如何将其转化为约束编程模型中的具体约束。
示例1：公平性约束（机会均等）
否需要接受某种手术。机会均等要求，在真实需要手术的患者中，AI模型预测需要手术的概率在不同群体间应相等。就是假设大家的任务是预测患者
- 设 G∈{ 0,1}G \in \{0, 1\}G∈{ 0,1}表示群体属性（如性别），Y∈{ 0,1}Y \in \{0, 1\}Y∈{ 0,1}表示真实标签，Y^∈{ 0,1}\hat{Y} \in \{0, 1\}Y^∈{ 0,1}表示模型预测。
- 机会均等允许表示为：P(Y^=1∣Y=1,G=0)≈P(Y^=1∣Y=1,G=1)P(\hat{Y}=1 | Y=1, G=0) \approx P(\hat{Y}=1 | Y=1, G=1)P(Y^=1∣Y=1,G=0)≈P(Y^=1∣Y=1,G=1)。
- 在约束模型中，这可以转化为一个硬约束：