Karl giftet seg med Ermentrude, datter av grev Odo I av Orléans, i 842. Hun døde i 869. I 870, året etter, giftet Karl seg med Richilde av Provence, som nedstammet fra en adelsfamilie i Hertugdømmet Lothringen (fransk: Lorraine).