Mit der Ernennung v. Wissmanns zum Gouverneur der deutschen Kolonie Deutsch-Ostafrika trat er 1895 von der Schutztruppe als Regierungsrat in den Reichskolonialdienst im Gouvernement der Kolonie in Daressalam über. 1896 wurde er der Kolonialabteilung des Auswärtigen Amtes zugewiesen, wo er ab 1898 zunächst als Legationsrat, ab 1902 als Konsul in Kairo und später als "Kolonialer Beirat" des deutschen Botschafters in Paris tätig war. Der bekannte Alpinist Bumiller starb während des Ersten Balkankrieges (1912) als Berichterstatter an den Folgen der grassierenden Cholera.