I 1933 ble Rolfs gjort sjef for staben av flåtekommandoen, og et år senere til øverstkommanderende av slagskipene. Han var flåtekommandant fra 1937 til 1938 og deretter kommanderende admiral for Østersjøen. På samme tid holdt han posisjonen som øverstkommanderende for marinens kommando i øst. Deretter ble han sjef for den større marinekommandoen i nord.