Como um jovem oficial, Rowell serviu em Gallipoli, mas teve de voltar para a Austrália com febre tifóide em janeiro de 1916. O fim da guerra fez com que Rowell ficasse mais atrás em relação aos seus contemporâneos com registros de guerra mais distintos, mas ele conseguiu alcançá-los ao longo do pós-guerra. Rowell passou cinco anos com o exército britânico ou em faculdades do estado-maior britânico, estabelecendo contatos valiosos com os seus colegas britânicos. Em 1939 foi nomeado chefe do Estado-Maior da 6ª Divisão e mais tarde do I corpo de exército, servindo nessa posição na Batalha da Grécia e na campanha da Síria-Líbano. Em 1942, ele comandou o I Corpo na campanha da Trilha de Kokoda, contudo foi demitido. A sua subida subsequente para Chefe do Estado-Maior General demonstrou que as circunstâncias da sua demissão em 1942 foram extraordinárias.