Appartenente alla 7ª Divisione incrociatori, nel corso degli anni trenta prestò servizio nel teatro di guerra cinese; dal maggio 1940 riprese il servizio come incrociatore pesante e, nell'estate 1941, fece parte delle forze navali dispiegate dall'Impero giapponese per vigilare sull'occupazione dell'Indocina francese. Nel dicembre 1941, in contemporanea all'attacco di Pearl Harbor, appoggiò gli sbarchi in Malesia e poi le operazioni anfibie in Sumatra meridionale (febbraio 1942); quindi scortò il convoglio occidentale per l'invasione di Giava e, nella notte del 28 febbraio-1º marzo, ebbe parte determinante nella battaglia dello Stretto della Sonda. Dopo un periodo di pausa, con il resto della divisione e altre forze prese parte all'incursione giapponese nell'Oceano Indiano all'inizio di aprile, affondando alcuni mercantili. Nella seconda metà di maggio si spostò a Guam e, parte della 2ª Flotta con il resto della divisione d'appartenenza, salpò nel quadro della complessa offensiva contro l'atollo di Midway. La battaglia si concluse con una disfatta della flotta di portaerei nipponica e quindi l'ammiraglio Isoroku Yamamoto ordinò di bombardare l'atollo: la 7ª Divisione era quasi arrivata quando fu richiamata indietro. Nel corso del ritorno il "Mogami" impattò con il "Mikuma", che aveva mal eseguito un'accostata generale per evitare un possibile attacco di un sommergibile ed entrambi furono lasciati indietro dal resto della divisione; avvistati, furono attaccati nel corso del 6 giugno da decine di bombardieri e aerosiluranti imbarcati che inflissero danni pesanti al "Mikuma". L'incrociatore, distrutto dalla detonazione dei suoi stessi siluri, affondò infine durante la sera, con gravi perdite tra l'equipaggio.