初展览的是1882年幕末维新的新政府军阵亡者的遗物。历经甲午战争与日俄战争，1910年明治天皇下勅令该馆为「蒐集、保存跟武器沿革相关之物件作为军事上之参考的场所」（勅令192号）。经过第一次世界大战后展览资料越来越多，设施亦屡次扩建，虽然在1923年关东大地震的时候受损壊，翌年就建筑了临时博物馆，1932年重新再建。游就馆在战争期间得到陆军省借出不少掳获的兵器展览，然而第二次世界大战后因游就馆令被废除而关闭。失去国家补助的靖国神社于是以修理游就馆为条件，租赁建筑物与周围土地，1947年11月，美军接收的