技术动态 > 正文
OpenAI推出神经元可视化库Microscope
2020/4/16 11:32:00   智东西      关键字:OpenAI 神经元 可视化      浏览量:
Microscope神经元可视化库基于8个常用或重要的视觉神经网络,收集了其中每一个重要的层级和神经元,使分析神经网络的内部特征更加容易。
  4月14日,非营利人工智能研究组织OpenAI推出神经元可视化库Microscope,有助于提升AI研究者对神经网络的理解。
  Microscope神经元可视化库基于8个常用或重要的视觉神经网络,收集了其中每一个重要的层级和神经元,使分析神经网络的内部特征更加容易。
  如同在实验室中用显微镜能更清晰地观察到细节,它也能使AI研究者更好地理解有成千上万个神经元的神经网络的结构和行为。
  Microscope模型把神经网络层当作“节点(node)”,“节点”通过“边(edge)”相互连接。每个op包含数百个“单元(unit)”,大致类似于神经元。通过特征可视化、深度梦境、数据集示例、合成调整曲线等技术实现可视化效果。
  研究人员称随着时间发展,图像可能会更多。但他们也指出,使用的大多数技术只有在特定情况下才有用。比如,特征可视化只能指向“单元”,但不能指向其“父节点”。
  OpenAI认为,Microscope可以为那些有兴趣探索神经网络如何工作的人提供便利,但其更重要的价值在于提供长期的、共享的神经元可视化库来促进对这些模型的长期研究。
  “我们也希望神经科学等相近学科的研究人员能够从中获益,可以更容易地理解这些视觉模型的内部工作。”研究人员表示。