Simon startet sin karriere med førstegangstjeneste som infanterist i United States Army før han avla sin grunneksamen ved Lafayette College i Easton, Pennsylvania i 1953. Etter studiene ble han ansatt av Union Securities og gikk videre som visepresident for Weeden & Company før han ble en av de høyest rangerte sjefene for investeringsbanken Salomon Brothers. Den 22. januar 1974 ble Simon innsatt som finansminister av presidenten Richard Nixon, og han fikk senere på året fortsatt tillit av Gerald Ford. I sin periode som minister ble han regnet som en tilhenger av laissez faire–kapitalisme.