Han startet sin yrkeskarriere Justisdepartementet med tjenestegjøring i Sivilforsvarets administrasjonskontor. Ovesen var dommerfullmektig ved Lyngen sorenskriverembete 1953-55. Han arbeidet i Skatteetaten fra 1956, først i Riksskattestyret hvor han var kontorsjef fra 1966. Han var fylkesskattesjef i Akershus fra 1973 til han ble utnevnt til skattedirektør (sjef for Skattedirektoratet) i 1982. Han var skattedirektør til 1995 da han ble etterfulgt av Bjarne Johannes Hope. Willy Ovesen ble utnevnt til kommandør av St. Olavs Orden i 1993.