使用認知心理學解釋深度神經網路

發佈時間:2017-07-20 16:26:36 | 來源:DeepMind | 作者:機器之心 | 責任編輯:胡俊


五十年後,當我們面對關於可以做一次性學習的深度神經網路的相同問題時。去考慮匹配網路,這是 DeepMind 研發的一種神經網路。這一模型使用了有關注意力和記憶力(attention and memory)研究的最新成果,可以在僅使用一種類別中的單一示例的情況下,把 ImageNet 圖像進行分類,這種方法的性能表現絕對是一流的。然而,我們並不知道為了把這些圖片進行分類網路都做了哪些假設。

 

為了使這一問題更加透明,我們借鑒了發展心理學家(developmental psychologists)(1)的工作,他已經發現了關於兒童通過利用歸納偏移來消除很多不正確推斷,從而找到正確推斷的證據。這些偏好包括:

 

·         全物體偏好,兒童通過參考完整物體(而非某部位)設想某個詞彙(消除 Quine 對未觀察到的兔子部分的憂慮)。

·         分類學偏好,兒童通過參考基礎類別分類來設想某個詞彙(緩解 Quine 把所有的動物都選擇為的兔子的恐懼)

·         形狀偏好,兒童基於物體形狀設想一個詞彙的含義,而非顏色或紋理(解除 Quine 把所有的白物體都認定為「兔子」的焦慮)。

 

我們選擇測量神經網路的形狀偏好,因為在人類偏好上有大量的研究工作。

認知心理學刺激物樣本,我們用它來測量深度網路中的形狀偏好。這些圖像由印第安納大學認知發展實驗室的 Linda Smith 提供。


1  2  3  4  5  6  7  8  9  10