Swindin flyttet til Midland League laget Peterborough United som en spillende manager i 1954, og førte laget til flere kjente prestasjoner i FA-cupen, bl.a. til fjerde runde i 1956-57, og tre påfølgende titler i Midland League mellom 1956 og 1958. Peterborough kom til å vinne to titler til etter at Swindin forlot klubben, som var nok til å bli valgt inn i the Football League i 1960.