Wilhelmsen begynte yrkeskarrieren hos Wilh. Wilhelmsen, før han etter kort tid gikk over til Ivarans Rederi. Han var hos Ivarans fra 1916 til like etter andre verdenskrig, de siste årene som disponent og enebestyrer. Ved siden av dette hadde han startet sitt eget rederi i 1939, Skips A/S Awilco. Dette rederiets første skip «Segundo» forliste under krigen, men Wilhelmsen klarte å bygge selskapet opp igjen som tankrederi etter krigens slutt. Sønnene Gjert Wilhelmsen og Arne Wilhelmsen ble tidlig tatt inn som medinnehavere i farens konsern, som senere ble drevet under Awilhelmsen-navnet.