Gwynne ble med i Hereford Uniteds ungdomslag via Pershore College football academy ved Holme Lacy. Han satt som ubrukt innbytter i en rekke førstelagskamper i 2004/05-sesongen og startet i GLS Conference Cup mot Northwich.