使用認知心理學解釋深度神經網路

    原標題：使用認知心理學解釋深度神經網路：DeepMind新研究破解AI黑箱問題

    近日，DeepMind在其官方部落格上發表了一篇題為《Interpreting Deep Neural Networks using Cognitive Psychology》的文章，試圖通過認知心理學來解決深度神經網路中的「黑箱問題」，隨著神經網路被廣泛應用於實際問題，這一問題正變得越發重要；並且在已被ICML收錄的DeepMind最新論文《Cognitive Psychology for Deep Neural Networks: A Shape Bias Case Study》中，其證明了認知心理學工具能夠揭示DNN背後隱藏的計算特性，同時也為人類學習語言提供了一種計算模型。機器之心對部落格文章和論文摘要進行了編譯。原文連結見文中。

深度神經網路已經學會去處理一些令人感到驚奇的任務——從圖像識別和推理物體，到在 Atari 遊戲和圍棋上超越人類。由於這些任務和網路結構正在變得更複雜，神經網路學習的解決方案也會變得更加難以理解。

這就是「黑箱」問題，而且它正在變得越發重要，因為神經網路正在被應用於越來越多的實際應用當中。

在 DeepMind，我們正在努力去擴展用於理解和解釋這些系統的工具包。在我們最新的論文中（最近被 ICML 收錄），提出了一種解決此種問題的新方法，即利用認知心理學的方法去理解深度神經網路。認知心理學通過判斷行為表現來推斷認知層面的機理，並且涵蓋大量的詳述這些機理的資料和實驗論證。由於我們的神經網路在一些特定任務中可以接近人類的水準，因此認知心理學方法與黑箱問題之間的關係也正在變得越來越緊密。