为了这一切 我们已经从大约60年的发展寿命中了解到了人工智能，并从中获悉，我们与它之间的关系的一个基础部分通常仍然遥不可及：人类对复杂的机器学习模型如何在全球范围内思考的深刻理解。
BCG数据科学首席IP官Jan Ittner博士可能终于有了答案。
输入FACET，这是BCG GAMMA构建的开源解决方案，旨在提供机器学习模型的准确全局解释。FACET由Ittner开发，以响应客户对更好地理解和优化生产流程的需求，旨在使数据科学家能够超越单一预测的本地视野，而是帮助他们最终理解和评估整个“黑匣子”模型中所有变量的依赖性和相互作用。科学家们第一次有了可访问的工具，可以帮助机器学习模型在全球范围内解释自己背后的幕后活动。
Ittner说：“我仍然听到统计学家和数据科学家说-不了解FACET-这种东西是行不通的。”
多亏了Ittner和他的团队，现在可以了。FACET与scikit-learn（一个流行的Python机器学习库）合作推出，以游戏理论模型为基础-已有近100年历史的研究领域，研究个体因素如何影响最终结果近年来，人工智能研究人员的兴趣日益浓厚。
Ittner说：“如果您考虑与玩家进行一场游戏，并且游戏中有五位玩家……他们都做出选择并共同为一项成果做出贡献，那么他们（每个）应该如何为这一成果赢得赞誉？” “基本上，主要问题是，如果从游戏中删除玩家，结果将如何改善或恶化？”
从历史上看，不存在不同的方法来回答一个问题。但伊特纳发现刻面SHAP（灵感SH apley一个dditive前P lanations），用于解释机器学习模型的输出最近的和流行的游戏理论方法。
Ittner说：“ SHAP方法的出色之处在于，我们只是说不同的变量是参与者，而预测是游戏。” “因此，我要求模型做出预测-删除这些变量中的一个或多个后，该预测将如何变化？”
但是，如果没有可用的算法，就无法解释模型的一般行为（超出其单独的预测）以及变量之间复杂的相互作用的星座。确定手工挑选的变量集之间的依赖关系和相互作用，这是一个手动和探索性的过程。现在，FACET可以一劳永逸地做到这一点-只需按一下按钮。FACET借鉴了SHAP方法，评估了数千个单独的预测，以识别模型在训练过程中发现的变量之间的关系。
“总会有这种权衡取舍–您拥有一个简单的模型……并且您有点理解它的作用，或者您拥有一个非常强大的“黑匣子”模型，但是它是如此复杂，以至于没有人能理解它。 ”，伊特纳说。“这就是FACET的去向-它采用了复杂的“黑匣子”模型，但以一种数据科学家可以访问的方式对其进行了解释。”
