Von Bülow masih bersekolah ketika Perang Dunia II dimulai. Setelah lulus lebih awal dari sekolah menengah, ia mengikuti tradisi keluarga dan menjadi perwira militer. Dia ditempatkan di Front Timur selama tiga tahun, menjabat sebagai Oberleutnant (letnan satu) di "Panzergrenadierregiment" 3 di Divisi Panzer ke-3. Dia dianugerahi bintang jasa Salib Besi kelas 2 dan kelas 1. Adik laki-lakinya, Johann-Albrecht Sigismund von Bülow, terbunuh pada 21 Maret 1945, kurang dari dua bulan sebelum Perang Dunia II berakhir. Ketika ditanya dalam sebuah wawancara di kemudian hari dalam hidupnya apakah dia seorang letnan yang baik, dia menjawab: "Tidak cukup baik, saya mestinya menjadi bagian dari perlawanan pada 20 Juli 1944. Atas kontribusi Jerman yang mengerikan pada sejarah dunia, saya menjadi malu seumur hidupku." Dia menyelesaikan "Abitur"nya pada tahun 1946. Pada tahun 1951 dia menikahi Romi Schlumbom (lahir tahun 1929), dengannya dia memiliki dua anak perempuan.