Был воспитан в конфуцианской традиции. В девятнадцать лет Мори оказался одним из первых выпускников медицинского факультета Имперского университета в Токио, после окончания которого стал заниматься врачебной деятельностью в японской армии. По традиции лучших из выпускников государство отправляло в Европу на стажировку. В связи с этим продолжил образование в Германии (1884—1888), где специализировался в области санитарии и гигиены, в свободное время занимаясь литературой. По профессии военный врач. Одним из его преподавателей по медицине был немецкий военный врач Вильгельм Август Рот. В качестве военного медика Мори принимал участие в Японо-китайской войне 1894—1895 гг. и в войне с Россией в 1904—1905 годах. Провёл три года в глубинке на юго-западе Японии (1899—1902), где изучал исторические хроники и биографии деятелей прошлого. В отставку Мори Огай ушёл в звании генерал-лейтенанта военно-медицинской службы.