神经网络特征可视化

447
发布人:Google Brain 团队研究员 Christopher Olah、Google Research 研究员 Alex Mordvintsev


您想过神经网络内部是什么样子吗?特征可视化是一个强大的工具,利用这个工具,我们可以深入神经网络并了解它们的运行方式。

我们在 Distill 上发布的新文章详细探究了特征可视化,并介绍了一些新技巧!

以我们在 DeepDream 中的工作和其他人的大量工作为基础,我们能够将一个强大的视觉模型 (GoogLeNet [1]) 检测到的每一个神经元可视化。这个视觉模型在多个层上逐步构建抽象:首先,它会检测边缘,然后使用这些边缘检测纹理,使用纹理检测图案,使用图案检测对象部分…
但是,神经元本身无法理解世界 - 它们协同作用。所以,我们需要了解它们彼此之间的交互方式。一种方式是探索它们之间的内插。什么样的图像可以让两个神经元不同程度的同时激发?

在这里,我们将一个看上去用于检测艺术图案的神经元内插到一个似乎用于检测蜥蜴眼睛的神经元中:
您也可以尝试添加不同的神经元对,自行探索各种可能性:
除了让您尝试可视化之外,我们还探索了各种技术来让特征可视化正常运行,以及让您利用这些技术体验可视化。
用于可视化和理解神经网络的技术正变得愈发强大。我们希望我们的文章可以帮助其他研究人员应用这些技术,并让大家感受到它们的潜力。请访问 Distill 阅读这篇文章。

致谢
非常感谢我们的联合作者 Ludwig Schurbert,他对我们的论文尤其是交互式可视化作出了不可思议的贡献。