使用認知心理學解釋深度神經網路

      我們嘗試使用深度神經網路（即匹配網路和 Inception 基準模型）進行這次實驗，實驗發現神經網路像人類一樣更傾向於物體形體而不是顏色或紋理，所以它們有著「形狀偏好」。

       這表明匹配網路和 Inception 分類器為形狀使用一個歸納性的偏好（inductive bias）而消除不正確的假設，因此我們更加清楚了神經網路到底是如何解決一次性詞語學習問題。

      觀察形狀偏好並不是我們唯一有意思的發現：

·         我們觀察到形狀偏移是在早期神經網路的訓練過程中逐步出現的。這也許會聯想到讓人類的形狀偏好到底是如何出現的：心理學家發現，較小兒童的形狀偏好要比青少年小，並且成年人的形狀偏好相對其他階段是最大的。

·         我們發現使用不同的隨機種子進行初始化和訓練會得到不同程度偏移的神經網路。這就説明在深度學習系統進行實驗時，我們必須使用大量已訓練的模型來得出有效的結論，這正像心理學家不會根據單個主題得出一個結論一樣。

·         我們發現神經網路即使在形狀偏好十分不同時，它都可以實現相同的一次性學習性能。因此這證明了不同的神經網路能發現複雜問題多種等價高效的解決方案。

這一在標準神經網路架構中未被認識到的偏好發現表明，使用人工認知心理學解釋神經網路解決方案的潛力巨大。在其他領域中，來自 episodic 記憶文獻的洞見可用於理解 episodic 記憶架構，來自語義認知文獻的技術可被用於理解形成概念的模型。這些以及其他領域豐富的心理學文獻，賦予了我們一個極為強大的工具來解決神經網路黑箱問題，更深入地理解神經網路的行為。