I 1760 ble han valgt inn i parlamentets underhus. Med farens død året etter arvet han tittelen jarl av Shelburne, og tok sete i overhuset. Gjennom sin tjeneste for kongen var han blitt kjent med John Stuart, og i de første årene i parlamentet allierte han seg med Stuart mot William Pitt den eldre. Imidlertid endret han gradvis syn på Pitt. Han var medlem av regjeringen en kort periode i 1763, men trakk seg da Pitt ble nektet regjeringsplass. Da Pitt kom tilbake til makten i 1766 fikk Petty på nytt sete i regjeringen. Imidlertid ble han avsatt i 1768 på grunn av sin ettergivende politikk overfor de amerikanske koloniene.