机器学习可解释性的研究进展！
机器学习可解释性的发展已经从解释决策到理解心智，从解决信任问题到解决控制问题。
根据这个趋势，本文从解释的焦点与深度入手，将机器学习可解释性的现有工作分成了四大类：局部可解释性方法、全局可解释性方法、基于规则的解释性方法、机制性解释性方法。
这四类方法是理解该领域的基本框架，而当前的前沿工作就是在这四类的交叉地带进行探索与突破。比如《Advanced Science》的CellPhenoX，搭配的局部解释+机制性解释。
为了帮助你理解以及寻找创新思路，我挑选了近期机器学习可解释性相关的16篇论文供你参考，另附代码，建议你先复现1篇，期间产生的很多疑问可能就是你的创新点。
全部论文+开源代码需要的同学看文末
局部解释性方法：
这类方法通过分析单个预测附近的模型行为来提供解释。比如，LIME通过构建一个模型的局部近似来解释为什么模型对特定输入样本做出特定的预测。
Sig-Lime: A Signal-Based Enhancement of Lime Explanation Technique
方法：论文提出 Sig-LIME 方法，通过信号分割与受控噪声引入以保留特征间时间依赖、融合随机森林模型捕捉非线性关系、借助热图提升可视化效果，改进了传统 LIME 在信号数据解释中的不足，增强机器学习模型（尤其 ECG 信号相关模型）的可解释性，同时提升解释的可信度、稳定性与局部保真度。
创新点：
采用信号分割与受控高斯噪声（结合SNR）的新扰动方式，保留信号时序依赖，解决传统LIME扰动导致的不真实数据问题。
用随机森林模型替代线性模型捕捉非线性关系，搭配热图可视化特征重要性，让解释更易理解、更可信。
针对ECG等信号数据定制框架，在稳定性（ANOVA验证无变异）和局部保真度（平均欧氏距离仅0.49）上大幅超越基线LIME。
全局解释性方法：
这类方法旨在解释整个模型的行为，而不是单个预测。比如，SHAP通过合作博弈论的概念来分配每个特征对模型预测的贡献。
Enhancing Malware Detection through Machine Learning using XAI with SHAP Framework
方法：论文通过 SMOTE 技术处理数据失衡、Extra Trees Classifier 筛选特征，训练随机森林、AdaBoost 等机器学习模型进行恶意软件检测，并结合 SHAP 框架，通过计算 Shapley 值明确各特征的全局与局部贡献，提升模型可解释性与透明度。
创新点：
结合SMOTE技术和Extra Trees Classifier进行数据预处理，解决数据集失衡问题并筛选关键特征，为模型训练奠定良好基础。
同时采用随机森林、AdaBoost、SVM和ANN四种不同类型的机器学习模型进行恶意软件检测，全面评估各类模型的检测性能。
引入SHAP框架增强模型可解释性，通过计算Shapley值明确各特征的全局和局部贡献，清晰揭示模型决策逻辑。
基于规则的解释性方法：
这类方法使用启发式规则或领域知识来解释模型的行为。比如，决策树和决策规则集可以直观地显示数据是如何被分类的。
A text classification-based approach for evaluating and enhancing the machine interpretability of building codes
方法：论文提出基于文本分类的方法，通过制定 7 类条款分类标准并构建标注数据集，利用领域预训练的 RuleBERT 模型实现条款级机器可解释性自动评估，结合文档级量化指标，既提升了建筑规范解释的可解释性与自动化规则解释性能，又完成了大规模中国建筑规范的可解释性分析。
创新点：
制定7类条款分类标准，明确各条款机器可解释性等级，构建标注数据集并通过数据增强平衡类别。
用领域语料预训练得到RuleBERT模型，自动分类条款可解释性，F1-score达93.60%，优于传统模型。
提出文档级量化指标，实现单条款和建筑规范整体可解释性评估，应用于150余部中国建筑规范。
机制性解释性方法：
机制性解释性方法深入模型内部，探索其运作机制，以提供关于模型决策过程的内在见解，包括激活最大化、层析成像等技术，特别适用于深度学习模型。
Interpretability at Scale: Identifying Causal Mechanisms in Alpaca
方法：论文提出 Boundless DAS 方法，通过用可学习参数替代分布式对齐搜索（DAS）中的暴力搜索步骤，基于因果抽象理论，借助梯度下降学习神经网络表示与可解释因果变量间的对齐关系，实现对大规模语言模型（如 7B 参数的 Alpaca）内部因果机制的高效、忠实且鲁棒的可解释性分析。
创新点：
改进分布式对齐搜索，用可学习参数替代暴力搜索，提出Boundless DAS，实现对大规模语言模型的可解释性分析。
基于因果抽象理论，通过梯度下降让模型神经表示与可解释因果变量对齐，且对齐结果在输入、指令变化时仍稳定。
用该方法研究Alpaca模型，发现其通过两个布尔变量实现数值推理任务，为理解大模型内部机制提供新路径。
关注下方《学姐带你玩AI》🚀🚀🚀
回复“222”获取全部方案+开源代码
码字不易，欢迎大家点赞评论收藏