Pocházel z venkovské šlechty, byl synem plukovníka a poslance Sira Edwarda Harleye (1624–1700). Vystudoval v Oxfordu, spolu s otcem v roce 1688 podpořil slavnou revoluci, což předurčilo jeho další kariéru. V roce 1689 byl šerifem v hrabství Radnor, v letech 1689–1710 byl členem Dolní sněmovny za stranu toryů, zastával též čestné funkce v hrabství Radnor. V letech 1701–1705 byl předsedou Dolní sněmovny, v letech 1704–1708 navíc ministrem zahraničí, z vlády odstoupil pro neshody s prvním ministrem Godolphinem ohledně vedení války v Evropě. V této době získal navíc popularitu a vliv jako novinář a publicista, v roce 1706 byl též členem komise pro sloučení Anglie a Skotska. K nejvyššímu úřadu se dostal po pádu Godolphinovy vlády s pomocí přátel královny Anny a v letech 1710–1714 byl prvním lordem pokladu ("Lord High Treasurer"), tj. prvním ministrem. Vrcholu popularity dosáhl po vražedném útoku, jemuž byl vystaven v roce 1711, téhož roku byl povýšen na hraběte a vstoupil do Sněmovny lordů, v roce 1712 získal Podvazkový řád, v letech 1711–1714 byl též guvernérem Jihomořské společnosti.