I 1897 ble han utnevnt til statssekretær i utenriksdepartementet av keiser Vilhelm II. Hans fremste oppgave som utenriksminister var knyttet til den tyske kolonialpolitikken. Tyskland utvidet i denne perioden sine kolonibesittelser, blant annet takket von Bülows innsats. Han klarte i 1899 gjennom diplomatiske forhandlinger å kjøpe øygruppene Mariannene og Karolinene fra Spania for 25 millioner pesetas og innlemme dem i det tyske kolonialveldet. Og ved Samoa-overenskomsten ble Tyskland herre over den viktigste av Samoa-øyen. For dette ble han utnevnt til greve ().