Em 1990, antes da invasão Iraquiana no Kuwait, ele regressou a Inglaterra e ao Arsenal como treinador da equipa reserva, cargo que manteve pelo resto de sua vida. Durante o seu tempo como treinador no Arsenal, Armstrong foi responsável por trazer muitos jovens jogadores como: Steve Morrow, Ray Parlor e Paul Dickov.