Han var sønn av kaptein Christoffer Budde (d. 1701) og hustru Dorthe Melchiorsdatter Qvintler (d. 1700). I 1700 ble han student, og fungerte etter farens død som huslærer for sine yngre brødre. I 1704 oppga han studiene for å gå i engelsk sjøtjeneste. I 1710 ble han antatt som styrmann og samme år forfremmet til månedsløytnant i den dansk-norske flåten. I 1715 ble han fast offiser, og avanserte etter hvert til kommandørkaptein.