Houston var assistent for George Graham i Arsenal fra 1986, og fungerte to ganger som midlertidig manager. Første gang var i tre måneder etter at Graham fikk sparken i februar 1995. Houston førte laget til finalen i Cupvinnercupen, der Arsenal tapte etter et spektakulært mål fra Nayim i kampens siste minutt. Houston fortsatte som assistent etter at Bruce Rioch ble manager sommeren 1995, og da Rioch forlot klubben ett år senere, så fikk Houston jobben midlertidig manager mens den påtroppende manageren Arsene Wenger fullførte sin kontrakt med det japanske laget Grampus Eight.