机器学习模型经常被称为“黑匣子”。他们产生高度准确的预测。然而，我们常常无法解释或理解哪种信号模型最依赖于做出决策。
理解和评估模型的一种方法是使用准确性等指标，另一种方法是使用模型的可解释性。建立一个可以做出高质量预测但又能够解释此类预测的 ML 模型是数据科学中的一项基本任务。
可解释性
数据科学家生成的 ML 模型包含世界状态的复杂数学表示。数据科学家、产品经理、业务人员或参与构建和使用 ML 解决方案的任何人都渴望知道是什么控制了 ML 输出。
可解释性：负责回答 ML 方法背后的基本机制是什么。例如