Met het ontstaan van de Noord-Duitse Bond in 1867 ontstond behoefte aan een centrale residentie voor de latere rijkskanselier, de Pruisische eerste minister Otto von Bismarck. De Pruisische regering kocht een Berlijns paleis uit de erven van aristocraat/componist Antoni Radziwiłł (1775-1833), en bouwde het pand tussen 1875 en 1878 uit tot de Rijkskanselarij. Met de bijeenkomst van het Congres van Berlijn in 1878 werd het gebouw ingewijd.