人喺用個腦諗完嘢解決完問題之後，曉將自己嘅思考過程口頭報告返出嚟。但一個神經網絡唔會識做呢樣嘢，唔會話到俾研究者聽佢經過啲乜嘢思考過程先能夠達到佢所俾嘅output。所以有人將神經網絡比喻做一個黑盒－就算佢嘅output係準確嘅都好，個研究者都淨係知個神經網絡嘅input同output，冇辦法知道當中嘅思考過程。