派驻俄罗斯帝国的于1914年之前一直设于圣彼得堡（彼得格勒）。直至威廉·冯·米尔巴赫大使上任后，他才迁往莫斯科办公及居住。1918年7月6日，米尔巴赫-哈尔夫在德国驻俄大使馆的馆舍中遭到俄国左翼社会革命党和尼古莱·安德烈耶夫枪杀。在此之后，卡爾·赫弗里希曾临时作为继任者在很短的一段时期内担当驻俄大使。自1921年起，大使一职由接任。1922年上任的大使致力于与苏联建立良好的外交关系，同时亦尽量避免德国与其过于亲密。他强烈反对两国的军事合作，这使得他与德军统帅部多有纷争。布洛克多夫-兰曹为德意志国与苏维埃联盟之间缔结的《》作出了重大贡献。在布洛克多夫-兰曹去世后，于1928年接任驻苏大使，但后者未能成功的持续改善。于1933年8月在莫斯科接替迪尔克森，但因其不满德国政府的反苏外交政策，遂于1934年辞职。他的继任者弗雷德里希·沃尔纳·冯·舒伦堡则致力于在德国和苏联间达成谅解，并协助促成了两国于1939年8月签订的《苏德互不侵犯条约》。舒伦堡伯爵还试图阻止德国于1941年6月22日入侵苏联。他警告称，苏联的军事力量强大，其工业储备也几乎是无懈可击的。在对苏战争爆发后，德国大使馆被迫关闭，舒伦堡伯爵在莫斯科遭拘禁了数周后被驱逐至土耳其边境。