如果您有兴趣了解有关如何使机器学习模型更易于解释的更多信息，那么 Python 中当前可用于在深度学习中应用可解释 AI 的两个最有趣的库是 Pytorch 的 Captum 和 XAI。
由于这个研究领域在不断改进，我的目标是在未来的一篇专门讨论可解释人工智能的文章中涵盖所有这些不同的主题（以及更多主题）。
结论
如果您有兴趣了解更多机器学习可视化技术，Python Yellowbrick 库高度关注该主题。提供的可视化工具的一些示例包括：特征排名、ROC/AUC 曲线、K-Elbow 图和各种文本可视化技术。
最后，在过去几年中，已经开始开发了不同的框架以使机器学习可视化更容易，例如：TensorBoard, Weights & Biases 和 Neptune.ai。