St Ledger startet sin karriere med ungdomsfotball hos Peterborough United FC i 2001, og spilte seg videre opp i systemet frem til han fikk sin førstelagsdebut for klubben i 2002. Som midtstopper, back og midtbanespiller var han med på å spille klubben frem mot playoffspill i Football League Two i 2005/2006-sesongen, men uten å lykkes. I juli 2006 meldte han overgang til Preston North End FC på en overgangssum verdt £225 000 pund, hvor han skrev under på en treårskontrakt.