The unified contract of a SHAP explainer.
所有可解释模型的 SHAP 解释器都实现这个接口,从而使得 TreeSHAP(基于树结构的精确算法)与解析 SHAP(线性模型)可以 通过同一套下游代码进行汇总、导出与可视化。
The unified contract of a SHAP explainer.
所有可解释模型的 SHAP 解释器都实现这个接口,从而使得 TreeSHAP(基于树结构的精确算法)与解析 SHAP(线性模型)可以 通过同一套下游代码进行汇总、导出与可视化。
01 Syntax
02 Methods
| Name | Overloads | Summary |
|---|---|---|
| Explain | 1 | 计算指定样本的逐特征 SHAP 贡献值。 返回的向量长度与 IShapExplainer.FeatureNames 一致,并且不包含 基线值 IShapExplainer.Baseline。 |
03 Properties
| Name | Overloads | Summary |
|---|---|---|
| FeatureNames | 1 | 模型特征的名字。其长度必须和 IShapExplainer.Explain()) 所返回的贡献向量的长度一致。 |
| Baseline | 1 | 模型输出的期望值(基线值 / expected value)。 对于任意样本 x,均有:sum(Explain(x)) + Baseline = 模型输出。 |
| Size | 1 | 模型的特征数量。 |
04 Members
Double())计算指定样本的逐特征 SHAP 贡献值。
返回的向量长度与 IShapExplainer.FeatureNames 一致,并且不包含 基线值 IShapExplainer.Baseline。
| Name | Type | Description |
|---|---|---|
x | Double() | 特征向量,长度必须为 IShapExplainer.Size |
模型特征的名字。其长度必须和 IShapExplainer.Explain() 所返回的贡献向量的长度一致。
模型输出的期望值(基线值 / expected value)。
对于任意样本 x,均有:sum(Explain(x)) + Baseline = 模型输出。
模型的特征数量。