Hoyte har tidligere spilt for Arsenal FC, og på utlån til Watford FC, Brighton & Hove Albion FC, Lincoln City FC og AFC Wimbledon. Gavin Hoyte er bror til Justin Hoyte, som spilte for Arsenal.