McAdoo ble født i Marietta i Georgia men flyttet 14 år gammel i 1877 til Knoxville etter at hans far ble professor ved University of Tennessee. McAdoo avla sin eksamen ved samme universitet og innledet sin karriere som advokat i Tennessee, før han senere dro til New York og grunnla finansforetaket Pemberton & McAdoo sammen med Francis R. Pemberton, sønn av generalen John C. Pemberton. Rundt århundreskiftet i 1900 tok han på seg oppgaven med prosjektet for å bygge en jernbanetunnel fra Manhattan til New Jersey under Hudsonelva. Da tunnelen ble åpnet i 1908 var McAdoo blitt administrerende direktør for jernbaneselskapet Hudson and Manhattan Railroad Company, og uttalte at hans motto var «».