O cruzador teve uma carreira bem ativa na Segunda Guerra Mundial. Ele apoiou as invasões da Malásia e Filipinas em dezembro de 1941, no início da Guerra do Pacífico. No ano seguinte o "Atago" participou das batalhas do Mar de Java e Midway, além de vários confrontos no decorrer da Campanha de Guadalcanal, ajudando inclusive a danificar o couraçado USS "South Dakota". O navio esteve presente na Batalha do Mar das Filipinas em junho de 1944 e depois da Batalha do Golfo de Leyte em 23 de outubro, quando afundou depois de ser torpedeado pelo submarino USS "Darter".