Efter å ha reist gjennom ulike land ble han i 1893 ansatt av Wilhelm von Bode ved Gemäldegalerie in Berlin. I 1896 forlot han Berlin til fordel for Leipzig, hvor han studerte privat. I 1898/99 var han sammen med Ernst Graul redaktør av tidsskriftet (utgitt av E. A. Seemann). Ved siden av dette begynte han sammen med Felix Becker smått å jobbe med leksikonet , som først ble utgitt i 1907. Innen Thiemes død hadde 14 bind av leksikonet blitt publisert.