深度神经网络早已掌控了解决问题各种问题的方法——从辨识、推理小说图像中的物体，到沦为“棋士上帝”。随着这些任务显得更加简单，神经网络思索出来的解决问题方法也显得更加繁复。因为这个系统过于简单了，即使是设计该系统的工程师有可能也无法分析出有它收到某一指令的原因。当然，你也无法成全这个神经网络需要得出它发布命令每一个指令的原因：目前为止还没一套需要让AI自己说明自己不道德的系统。

实质上，这就是人工智能领域知名的“黑盒子”问题，随着神经网络在现实世界中的应用于更加普遍，对这一问题的研究也开始显得无比最重要。回应，《麻省理工科技评论》曾以“人工智能核心地带的黑暗秘密”为题刊登专题文章，来深入探讨神经网络的不能解释性问题。

图丨《麻省理工科技评论》关于人工智能的“黑盒子”问题的封面文章作为人工智能研究领域的先锋，DeepMind对“黑盒子”问题也在持续注目——目前，该团队于是以著手研发更好的工具，用作说明人工智能系统。6月26日，在近期公布的一篇论文中，DeepMind明确提出了一种基于理解心理学来研究深度神经网络的新方法。

本文来源：云开平台app官方-www.nmsdrs.com