Carlos fue el hijo menor de Ermengarda de Tours y Lotario I, emperador carolingio, que repartió sus dominios de la Francia Media o Lotaringia entre sus tres hijos: el primogénito, Luis, recibió Italia y el título imperial; Lotario II heredó Lotaringia (la moderna Lorena, Bélgica, los Países Bajos y Luxemburgo) y el menor, Carlos, que recibió la Alta y Baja Borgoña (Arlés y Provenza).