Etter den Tysklands samling i 1871 og til avslutningen av den andre verdenskrigen i 1945 befant ambassaden seg i Palais Beauvryé på samme sted som i dag. Fra 1945 var Frankrike medlem av Det allierte kontrollrådet og utøvet dermed regjeringsmakt i Tyskland. Etter 1949, under gjenetableringen av den tyske suverenitet ble Allierte høykommisjon etablert og i tillegg en fransk ambassade i Bonn hvor den tyske regjeringen da hadde kontor.