Jabarkan Rumah tangga dari Heinrich IV, Kaisar Romawi Suci

Istri pertama Heinrich, Berta dari Savoia, hanya setahun lebih muda darinya. Heinrich secara teratur menyebut Berta sebagai "permaisuri kerajaan dan biduk rumah tangga kami" dalam surat-surat kenegaraan sampai tanggal 5 Agustus 1068. Hilangnya nama Berta dari surat-surat kenegaraan Heinrich adalah tanda merenggangnya hubungan di antara keduanya. Heinrich berikhtiar menceraikan Berta dengan mengungkapkan di hadapan sidang umum menak Jerman pada bulan Juni 1069 bahwa ikatan perkawinannya dengan Berta belum disempurnakan dengan sanggama. Sidang menak mengajukan permohonan pembatalan perkawinan Heinrich dan Berta kepada sinode, dan sinode meneruskannya ke Takhta Suci pada awal bulan Oktober. Paus Aleksander II mengeluarkan keputusan tegas bahwa Heinrich hanya dapat dinobatkan menjadi kaisar jika bersedia mengurungkan niatnya menceraikan Berta. Heinrich mematuhi keputusan Sri Paus, dan nama Berta kembali tercantum dalam surat-surat kenegaraannya sejak tanggal 26 Oktober 1069. Berta wafat pada tanggal 27 Desember 1087.

Perkawinan Heinrich dan Berta dikaruniai lima orang anak. Dua di antaranya wafat selagi masih bayi, yakni Adelheid dan Heinrich. Tiga anak yang bertahan hidup hingga dewasa adalah:

Agnes, lahir tahun 1072 atau 1073, diperistri Friedrich dari Büren, ditinggal mati suami, kemudian diperistri Leopold III dari Austria.

Konrad, anak yang memerangi ayahnya, lahir tahun 1074.

Heinrich, anak yang memaksa ayahnya turun takhta, lahir tahun 1086.

Morkinskinna, tawarikh tertua raja-raja Norwegia, memuat keterangan tentang seorang putri bernama Mathilde, anak seorang kaisar. Berdasarkan kecocokan waktu, kaisar yang dimaksud mestinya adalah Heinrich IV. Menurut Morkinskinna, Magnus III dari Norwegia pernah saling berkirim pesan dengan putri Mathilde, dan pernah pula merangkai sebait puisi untuknya. Dalam sumber-sumber primer lain, tidak ada anak Heinrich yang bernama Mathilde.

Istri kedua Heinrich, Yevpraksia dari Kiev (dikenal dengan nama Adelheid di Jerman), lahir sekitar tahun 1068. Yevpraksia adalah putri Pangeran Besar Kiev, Vsevolod I, tetapi bukan ikatan dengan Rus Kiev yang menjadikannya pasangan ideal bagi Heinrich IV, melainkan statusnya sebagai janda cerai mati Heinrich dari Stade sejak tahun 1087. Mendiang Heinrich dari Stade adalah menak Sachsen yang kaya raya, dan tindakan mengawini jandanya membantu merukunkan Heinrich IV dengan orang-orang Sachsen. Heinrich IV dan Yevpraksia bertunangan pada tahun 1088. Tidak seperti Berta, nama Yevpraksia hanya satu kali tercantum dalam surat kenegaraan Heinrich. Fakta ini menunjukkan bahwa Yevpraksia tidak kunjung mendapatkan kepercayaan Heinrich. Sesudah perkawinan mereka berakhir dengan skandal, Yevpraksia pulang ke negeri asalnya dan menetap di Kiev sampai tutup usia pada tanggal 10 Juli 1109.

Beatrix, anak Gunhilda dari Denmark dan Kaisar Heinrich III, tidak turut ditampilkan pada bagan di atas. Beatrix adalah Abdis Biara Quedlinburg dan Biara Gandersheim sampai akhir hayatnya pada tahun 1061.