After that, Gyllenbögel was Finnish Chargé d'Affaires to in Moscow but returned to Finland in 1922 at the request of the Soviet government and Antti Hackzell was appointed to replace him in Moscow.
Tämän jälkeen Gyllenbögel oli Suomen asiainhoitajana Moskovassa mutta hän joutui palaamaan Suomeen 1922 neuvostohallituksen vaatimuksesta ja hänen tilalleen Moskovaan nimitettiin Antti Hackzell.