Hillvegs interesse for klassisk musikk, og spesielt for Wolfgang Amadeus Mozart, ble vekket på en skolekonsert i 1956. Hillveg rakk aldri å fullføre sin skolegang, men begynte å jobbe som grammofonplateselger hos Norsk Musikkforlag i 1958, en stilling han hadde i nærmere 54 år til forretningen ble nedlagt sommeren 2012. Hillveg ble etter hvert et kjent navn blant hovedstadens platekjøpere innenfor klassisk musikk, ikke minst gjennom sin omfattende musikkunnskap og kjennskap til ulike plateinnspillinger.