1898年10月1日编成，是第一次中日战争后成立的6个后备师圑之一，它的士兵主要来自日本东北地区，如青森县、秋田县和山形县等。它的第一任指挥官是立见尚文将军，是原仙台驻军的司令员。1902年1月，第8师团在八甲田山进行行军训练，发生悲剧性的八甲田雪中行军遭难事件，其第5步兵团的210人中有199人冻死。着名作家新田次郎以此为原型创作了小説《八甲田山-死之徬徨》。在日俄战争期间，第8师团参与了着名的黑沟台会战和随后的奉天会战。从1910年起，它被分派到韩国驻守，亦参加了西伯利亚出兵。在1931年的