Der Deutsche Botschafter im Russischen Reich residierte bis 1914 in Sankt Petersburg (Petrograd). Erst unter Botschafter Wilhelm von Mirbach-Harff erfolgte der Umzug nach Moskau in die Villa Berg (Deneschni Pereulok 5, heute Sitz der italienischen Botschaft). Am 6. Juli 1918 wurde von Mirbach-Harff im Gebäude der deutschen Botschaft in Moskau von Jakow Blumkin und Nikolai Andrejew erschossen. Kommissarischer Nachfolger von Mirbach-Harffs als deutscher Botschafter wurde für kurze Zeit Karl Helfferich. Als Botschafter fungierte ab 1921 dann Kurt Wiedenfeld. Ab 1922 war es Ulrich von Brockdorff-Rantzau, der sich bemühte, ein gutes Verhältnis zur Sowjetunion aufzubauen, zugleich aber eine zu enge Anlehnung Deutschlands an sie zu vermeiden. Der militärischen Kooperation beider Staaten trat er energisch entgegen, was ihn vor allem in Konflikt mit der deutschen Heeresleitung brachte. Brockdorff-Rantzau trug wesentlich zum Zustandekommen des Berliner Vertrags (1926) zwischen dem Deutschen Reich und der Sowjetunion bei. Nach dem Tod Brockdorff-Rantzaus 1928 folgte Herbert von Dirksen. Ihm gelang es nicht, das deutsch-sowjetische Verhältnis nachhaltig zu verbessern. Rudolf Nadolny folgte Dirksen im August 1933 auf dem Botschafterposten in Moskau, trat aber wegen der ihm zu sowjetfeindlichen Außenpolitik seiner Regierung schon 1934 wieder zurück. Sein Nachfolger Friedrich-Werner Graf von der Schulenburg trat für eine Verständigung zwischen Deutschland und der UdSSR ein und war maßgeblich am Zustandekommen des deutsch-sowjetischen Nichtangriffspakts vom August 1939 beteiligt. Er versuchte, den deutschen Überfall auf die Sowjetunion am 22. Juni 1941 zu verhindern. Er warnte, die UdSSR sei militärisch stark und ihre Industriereserven praktisch unangreifbar. Nach dem Beginn des Krieges gegen die Sowjetunion 1941 wurde die Botschaft geschlossen, Schulenburg in Moskau einige Wochen interniert und dann an der türkischen Grenze abgeschoben.