沙普利
沙普利值
描述
的沙普利查询点的特征值解释了由于该特征，查询点的预测与平均预测的偏差。对于每个查询点，所有特征的Shapley值之和对应于预测与平均值的总偏差。
您可以创建沙普利对象用于具有指定查询点的机器学习模型(queryPoint)．该软件创建一个对象，并为查询点计算所有特征的Shapley值。
使用Shapley值来解释在指定查询点上各个特征对预测的贡献。使用情节函数创建Shapley值的条形图。方法可以为另一个查询点计算Shapley值适合函数。
创建
描述
讲解员=沙普利(___“QueryPoint”,queryPoint）queryPoint并将计算得到的Shapley值存储在ShapleyValues的属性讲解员．您可以指定queryPoint除了前面语法中的任何输入参数组合之外。
输入参数
属性
例子
在创建时计算Shapley值沙普利对象
训练一个分类模型并创建一个沙普利对象。当您创建沙普利对象，指定一个查询点，以便软件计算查询点的Shapley值。然后使用object函数创建Shapley值的条形图情节．
加载CreditRating_Historical数据集。数据集包含客户id及其财务比率、行业标签和信用评级。
台= readtable (“CreditRating_Historical.dat”）;
显示表的前三行。
头(资源描述,3)
ID WC_TA RE_TA EBIT_TA MVE_BVTD S_TA行业评级 _____ _____ _____ _______ ________ _____ ________ ______ 62394 0.013 0.104 0.036 0.447 0.142 3{“BB”}48608 0.232 0.335 0.062 1.969 0.281 8 {A} 42444 0.311 0.367 0.074 1.935 0.366 1 {A}
训练一个信用评级的黑盒模型fitcecoc函数。使用第二到第七列的变量资源描述作为预测变量。推荐的做法是指定类名来设置类的顺序。
黑箱= fitcecoc(资源描述,“评级”，.．.“PredictorNames”tbl.Properties.VariableNames (7),.．.“CategoricalPredictors”，“行业”，.．.“类名”, {“AAA”“AA”“一个”“BBB”“BB”“B”“CCC”})；
创建一个沙普利对象，用于解释对最后一次观测结果的预测。指定一个查询点，以便软件计算Shapley值并将其存储在ShapleyValues财产。
queryPoint =(资源(最终,:)
queryPoint =表1×8ID WC_TA RE_TA EBIT_TA MVE_BVTD S_TA行业评级 _____ _____ _____ _______ ________ ____ ________ ______ 73104 0.239 0.463 0.065 2.924 0.34 - 2{“AA”}
讲解员=沙普利(黑盒,“QueryPoint”queryPoint)
警告:由于预测器数据有超过1000个观测值，计算可能会很慢。使用更小的训练集样本，或指定'UseParallel'为true以加快计算速度。
explainer = shapley with properties: BlackboxModel: [1x1 ClassificationECOC] QueryPoint: [1x8 table] blackboxfit: {'AA'} ShapleyValues: [6x8 table] NumSubsets: 64 X: [3932x6 table] CategoricalPredictors: 6方法:' intersecal -kernel'拦截:[-1.7642 -1.3677 -1.0980 -1.0645 -1.4758…］
正如警告消息所示，由于预测器数据有超过1000个观测值，计算可能会很慢。为了更快的计算，使用更小的训练集样本或指定“UseParallel”作为真正的．
对于分类模型，沙普利计算Shapley值使用预测的班级成绩为每个班。控件中的值显示ShapleyValues财产。
讲解员。沙普利价值s
ans =6×8表预测器AAA AAA BBB BBB CCC __________ _________ __________ ___________ __________ ___________ __________ __________ "WC_TA" 0.051507 0.022531 0.0093463 0.0017109 -0.027655 -0.041443 -0.039882 "RE_TA" 0.16772 0.094211 0.051629 -0.011019 -0.087919 -0.20974 -0.29463 "EBIT_TA" 0.0011995 0.00052588 0.00041919 0.00011866 -0.00066237 -0.0013347 -0.0011824 "MVE_BVTD" 1.3417 1.3082 0.61472 -0.11247 -0.6555 -0.86908 -0.68547 "S_TA" -0.013059 -0.0091049 -0.00031099 -0.0028624 -0.00019227 0.0016759-0.0024149“工业”-0.10142 -0.048668 0.0036522 0.081542 0.092657 0.10464 0.15888
的ShapleyValues属性包含每个类的所有特征的Shapley值。
方法绘制预测类的Shapley值情节函数。
情节(讲解员)
水平柱状图显示了所有变量的Shapley值，按它们的绝对值排序。每个Shapley值解释了查询点的分数与预测班级的平均分数的偏差，这是由相应的变量引起的。
创建沙普利对象和计算Shapley值使用适合
训练一个回归模型并创建一个沙普利对象。当您创建沙普利对象，如果不指定查询点，则软件不计算Shapley值。使用object函数适合，计算指定查询点的Shapley值。然后使用object函数创建Shapley值的条形图情节．
加载carbig数据集，包含70年代和80年代早期生产的汽车的测量数据。
负载carbig
创建一个包含预测变量的表加速度，气缸，等等，以及响应变量英里/加仑．
台=表(加速度、汽缸、排量、马力、Model_Year重量,MPG);
删除训练集中的缺失值可以帮助减少内存消耗并加速训练fitrkernel函数。中删除缺失的值资源描述．
台= rmmissing(台);
训练一个黑箱模型英里/加仑通过使用fitrkernel函数
rng (“默认”）%的再现性mdl = fitrkernel(资源描述,“英里”，“CategoricalPredictors”[2 - 5]);
创建一个沙普利对象。指定数据集资源描述,因为mdl不包含培训数据。
讲解员=沙普利(mdl(资源)
explainer = shapley with properties: BlackboxModel: [1x1 RegressionKernel] QueryPoint: [] blackboxsuits: [] ShapleyValues: [] NumSubsets: 64 X: [392x7 table] CategoricalPredictors:[2 5]方法:' interference -kernel'拦截:22.6202
讲解员存储培训数据资源描述在X财产。
计算第一个观测值的所有预测变量的Shapley值资源描述．
: queryPoint =(资源(1)
queryPoint =表1×7加速气缸位移马力Model_Year体重MPG ____________ _________ ____________ __________ __________ ______ ___ 12 8 307 130 70 3504
讲解员=适合(讲解员,queryPoint);
对于回归模型，沙普利计算Shapley值使用预测响应，并将它们存储在ShapleyValues财产。控件中的值显示ShapleyValues财产。
讲解员。沙普利价值s
ans =6×2表预测ShapleyValue ______________ ____________“加速度”-0.1561“气缸”-0.18306“位移”-0.34203“马力”-0.27291“型号_year”-0.2926“重量”- 0.3402
方法绘制查询点的Shapley值情节函数。
情节(讲解员)
水平柱状图显示了所有变量的Shapley值，按它们的绝对值排序。每个Shapley值解释了查询点的预测与平均值的偏差，这是由相应的变量引起的。
使用函数句柄指定黑箱模型
训练一个回归模型并创建一个沙普利对象的函数句柄预测模型的功能。使用object函数适合，计算指定查询点的Shapley值。然后利用目标函数绘制Shapley值情节．
加载carbig数据集，包含70年代和80年代早期生产的汽车的测量数据。
负载carbig
创建一个包含预测变量的表加速度，气缸，等等。
台=表(加速度、汽缸、排量、马力、Model_Year重量);
训练一个黑箱模型英里/加仑通过使用TreeBagger函数。
rng (“默认”）%的再现性Mdl = TreeBagger(100台,英里/加仑,“方法”，“回归”，“CategoricalPredictors”[2 - 5]);
沙普利不支持TreeBagger的第一个输入参数(黑箱模型)沙普利作为一个TreeBagger对象。方法的函数句柄预测函数。的选项预测使用函数的名称-值参数的函数。
类的函数句柄预测的函数TreeBagger对象Mdl．指定要用作的树索引数组1:50．
f = @(tbl) predict(Mdl,tbl，“树”、1:50);
创建一个沙普利对象使用函数句柄f．当将黑箱模型指定为函数句柄时，必须提供预测器数据。资源描述包括直言预测符(油缸而且Model_Year)双数据类型。默认情况下,沙普利不使用双数据类型作为类别预测器。指定第二个(油缸)和第五(Model_Year)变量作为范畴预测器。
讲解员=沙普利(f(资源“CategoricalPredictors”[2 - 5]);讲解员=适合(讲解员,台(1:));
绘制Shapley值。
情节(讲解员)
更多关于
参考文献
扩展功能
版本历史
介绍了R2021a
您也可以从以下列表中选择网站: