Willoch gjorde karriere i Den Kongelige Norske Marine, gikk på Sjøkrigsskolen og studerte radioteknologi i Storbritannia. Før den andre verdenskrig førte han kommandoen over oppsynsskipene og . I 1928 deltok Willoch i letingen etter flybåten som hadde forsvunnet over Barentshavet, mens den hadde med seg den norske polarfareren Roald Amundsen.