In 1333 werd hij door zijn vader belast met het bestuur van Bohemen en Moravië. Zijn vader, gesteund door paus Clemens VI en de Franse koning Filips VI, wist, nog net voor zijn dood, te bewerken dat Karel in 1346 werd gekozen tot Duits tegenkoning, waarbij hij de bijnaam "Pfaffenkönig" kreeg. Zijn vader sneuvelde in de Slag bij Crécy, waar ook hij niet ongeschonden van terugkeerde. Hij werd de volgende graaf van Luxemburg. In 1353 deed hij afstand van de titel graaf van Luxemburg ten gunste van zijn halfbroer Wenceslaus, die hij het jaar daarop tot hertog verhief. Hij erfde ook de titel van koning van Bohemen.