10月28日的台湾神社祭当日，新竹的官民亦会至此参拜并举行祭典。另外，于附近立有「北白川宫能久亲王记念诗碑」，其内容为「追击奏功休我兵、曲肱山坂待天明、日中炎暑全消尽，月下露营千感生。」。
新竹神社设立.1915年，时任新竹厅长三村三平开始筹建镇守新竹全境的神社，而新竹神社系由新竹街的松本徒尔等47人于1915年7月25日向台湾总督府申请设立，此申请于时任总督安东贞美于1916年9月26日许可。新竹厅长于1916年11月由高山仰接任，其考量牛埔山与北白川宫的渊源，加上周围被树林所包围