MacVeagh ble uteksaminert fra Yale University i 1862, hvor han var medlem av det hemmelige selskapet Skull and Bones. Etter dette arbeidet han som bankdirektør i Chicago, en stilling han hadde i 29 år. I 1909 takket han ja til å gå inn i stillingen som landets finansminister etter å ha blitt forespurt av daværende president William Howard Taft. I hans periode som finansminister omorganiserte han finansdepartementet gjennom en nedbemanning på rundt 450 stillinger.