Før 1870 hadde lederen av det utenrikspolitiske kontor i Det nordtyske forbund, tittelen under-statssekretær. Denne tittelen svarte ikke til de titler som var gitt utenlandske departementssjefer. Kansler Otto von Bismarck som var regjeringssjef, ønsket ikke å måtte møte samtlige besøkende utenriksministre, men hadde behov for å henvise dem til en tysk embetsmann med utenriksministers rang. Løsningen ble derfor at lederen av Auswärtiges Amt, fikk tittelen statssekretær ( Det var en tittel de var 'vant til ved diplomatiet i London'. Det er grunn til å anta at en tilsvarende tankegang førte til kontorets navn, Auswärtiges Amt. Den første statssekretær i Auswärtiges Amt ble Hermann von Thile i 1870.