Jabarkan Polandia dan Prancis dari Joachim Peiper

Pada 1 September 1939, Jerman menginvasi Polandia. Sebagai salah satu ajudannya, Peiper turut serta dalam kunjungan Himmler dalam kereta spesial SS, Reichsführer. Peiper juga ada bersama Himmler pada 20 September di Bydgoszcz Blomberg, saat mereka menyaksikan eksekusi 20 orang Polandia.  Peiper menulis bahwa pengalaman membuat Himmler tak mampu berkata-kata selama beberapa hari.  Sebagaimana dikatakan Peiper ke Ernst Schäfer, Hitler telah memerintahkan Himmler menghabisi intelektual Polandia.

Setelah kekalahan Polandia, Peiper membantu Himmler membangun peraturan dan perencanaan untuk mengontrol populasi orang Polandia. Selanjutnya, Peiper menemani Himmler dalam perayaan Feldherrnhalle di Munich pada 9 Oktober 1939. Pada 13 Desember 1939, Peiper dan Himmler menyaksikan pembunuhan melalui gas beracun terhadap penghuni fasilitas psikiatris di Owińska di dekat Poznań. Dalam interogasi, Peiper menggambarkan pengalaman tersebut secara terpisah dari emosinya, dalam gaya faktual.

Pada April 1940, Peiper menemani Himmler dalam perjalanan ke Buchenwald dan Flossenbürg concentration camp, diiringi kunjungan ke Polandia untuk menemui pemimpin SS dan Polisi, Wilhelm Rediess dan Brigadeführer Otto Rasch. Pada awal Mei, Himmler, ditemani Peiper, bertemu Pemimpin SS dan Polisi, Odilo Globocnik di Lublin, dengan Peiper menyadari bahwa perjanjian pertemuan Himmler mencatat adanya rencana Globocnik untuk menggunakan tenaga paksa Yahudi untuk membangun tembok pertahanan yang masif. Pada 17 Mei 1940, Peiper menemani Himmler saat mengikuti pasukan Waffen-SS pada pertempuran Prancis. Di Hasselt, Peiper mendapat izin mengikuti unit pertempuran dan menjadi pemimpin pleton di Batalion ketiga dari 11th Company dari Divisi Pertama Leibstandarte SS Adolf Hitler (LSSAH). Setelah merampas artileri di perbukitan Wattenberg, Peiper dianugerahi Salib Besi dan dipromosikan menjadi Hauptsturmführer.

Kembali menjadi personal staf Himmler

Peiper kembali menjadi ajudan Himmler pada 21 Juni 1940. Pada 10 Juli 1940, dia menemani Himmler ke Berghof, di mana para pemimpin Reich mendiskusikan perang dan rencana Hitler.

Pada bulan Oktober 1940, Peiper menemani Himmler ke Madrid, di mana ia bertemu Franco. Setelah melewati Metz, mereka berhenti di Dax, di mana Himmler bertemu Theodor Eicke, komandan SS divisi Totenkopf. Tak lama, pada 14 November 1940, Peiper diangkat menjadi ajudan pertama Himmler. Pada Januari 1941, Peiper menemani Himmler saat ia menginspeksi kamp konsentrasi Ravensbrück dan Dachau. Pada bulan Maret 1941, bersama Karl Wolff dan Fritz Bracht, mereka mengunjungi Auschwitz.

Himmler dan stafnya kemudian berjalan ke Norwegia, Austria, Polandia, Balkan, dan Yunani.  Perjalanan ini termasuk ke ghetto Łódź, yang dituliskan oleh Peiper "Ini adalah pemandangan yang mengerikan: Kami menyaksikan bagaimana polisi ghetto Yahudi, yang menggunakan topi tanpa tepian dan dipersenjatai gada kayu, tak mampu menyisakan ruangan cukup untuk kami. Tetua Yahudi di sana juga menghadiahi Himmler dengan sebungkusan bunga."