在这种情况下,我们可能想调查这样的问题:“患者再次入院的机会在多大程度上取决于年龄、性别或种族等特征?”
所选特征显示在 x 轴上,而 y 轴绘制部分依赖程度。部分依赖值显示了在结果类别中的概率如何随着特征的不同值而变化。
让我们首先检查趋势线。特征和目标之间的关系是积极的还是消极的?在这种情况下,我们可以看到随着年龄的增长,患者再次入院的可能性更大。
除了趋势线,我们还有数据的分布。例如,我们可能会惊讶于最老年龄段的再入院概率下降,但此括号中的少量数据可能是下降的原因。
这些图是整个 Explainable AI 工具包中的宝贵资产,因为它们提供了对特征与结果之间关系的洞察——即使对于非常复杂的黑盒模型,如神经网络。