Preussens utenriksdepartement hvor Thile arbeidet, behandlet fra 1870 også Det nordtyske forbunds utenrikssaker, fra 4. januar 1870 med tittelen statssekretær. Etter etableringen av Det tyske keiserrike i 1871 Thile utenriksminister (). Han ble i embetet til 1872, da han måtte gå som følge av en affære med tildelingen av Den sorte ørns orden til den russiske ambassadør Paul von Oubril og den østerrikske ambassadør Alajos Károlyi. Han ble etterfulgt i departementet av Hermann Ludwig von Balan. I realiteten var det i Thiles tjenestid rikskansler Otto von Bismarck som styrte utenrikspolitikken.