Hans far var infanterigeneral Adolf Eduard von Thile. Hermann von Thiele gikk i 1837 inn i Preussens utenrikstjeneste, og i 1838 arbeidet han ved utenriksstasjonen i Roma. De følgende årene arbeidet han i Bern, Wien og London. Fra 1854 til 1859 var han sendemann (tysk: ) i Roma, som etterfølger til Christian Karl Josias von Bunsen.