Etter endt utdannelse begynte Volcker å jobbe ved Federal Reserve Bank of New York. Fra 1957 var han i Chase Manhattan Bank. I 1962 gikk han over i finansdepartementet, før han i 1965 dro tilbake til Chase, nå som visepresident.