机器学习的可解释性Explainable ML
- 作用：基于机器学习的可解释性我们可以优化机器学习模型
- 线性模型虽然容易解释，但不够强大，深度学习的模型强大，但不容易解释
Explainable ML包括Local Explaination和Global Explaination：
- Local Explaination：针对个例解释什么特征让机器得出结果
- Global Explaination：针对辨别方法解释
Local Explaination：
例如一个模型输入一张图片x，这张图片可以拆成多个组件{x1,x2,…}，在这些组件中哪一个对机器做出最终决断最重要
方法：可以依次把每个组件改造或删除，看那个组件对机器得出结果影响最大
输入图片，写作像素{x1,x2,…,xn}，计算图片的Loss，记为e（e越大表示和和正确答案越大）
做改变：
计算：
，得到某个像素对结果的重要性
图中白色的点就是通过以上方法得到对结果影响重要的像素点
Global Explaination：
- 不是针对某特定个例来解释，而是把训练好的模型拿出来，根据模型中的参数检查，对这个Network而言一只猫长什么样；对训练好的Network，要针对任何图片分析
例如：我们想要知道什么样的图片在这个Network的认识中最像一只猫
方法：可以制造一张图片，让机器画出他认为最像猫的图片
设图片的参数为
，让机器找出让结果最大的X*，转回图片就是机器画出的他认为最像猫的图片
机器直接找出的照片，人却很难分辨；所以可以使用Generator，训练出一个Generator用于产生图片：
向Generator输入低纬向量z，输出X，再把X输入图片分类的Network得到分数，找生成图片中分数高的就是图片分类的Network认为最像猫的样子
