我设计了一个三层神经网络,其输入是来自CNN和RNN的连接特征。网络学习到的权重非常小,这有什么合理的解释?如何解释Tensorflow中的权重直方图和分布?有没有好的资源可以参考?
这是使用tensorboard可视化的三层神经网络第一隐藏层的权重分布。如何解释这个结果?所有的权重都为零吗?
这是三层神经网络第二隐藏层的权重分布:
这是使用tensorboard可视化的三层神经网络第一隐藏层的权重分布。如何解释这个结果?所有的权重都为零吗?
这是三层神经网络第二隐藏层的权重分布:
一篇2017年7月的Science文章提供了关于当前深度学习技术现状和研究的概述:AI侦探如何揭开深度学习的黑匣子(没有内部链接,但搜索名称和术语将会有所收获)
DARPA本身正在进行可解释人工智能(XAI)计划。
在NIPS 2016上有一个有关复杂系统可解释机器学习的研讨会。
在更实际的层面上:
神经网络的逐层相关性传播(LRP)工具箱(论文,项目页面,代码,TF Slim包装器) Fast Forward Labs的《FairML:审计黑盒预测模型》(博客文章,论文,代码) Geoff Hinton最近发表的一篇论文(2017年11月),将神经网络提炼成软决策树,配有独立的PyTorch实现 SHAP:解释模型预测的统一方法(论文,作者的代码)