Karol IX urodził się jako najmłodszy syn Gustawa Wazy i Małgorzaty Eriksdotter (Leijonhufvud). W 1560 wraz ze śmiercią ojca, Karol objął we władanie księstwo, naznaczone mu przez Gustawa Wazę, które obejmowało większą część Södermanlandu i Närke, kilka parafii w Västmanlandzie, część powiatu Vadsbo w Västergötlandzie i cały Värmland. Według testamentu Gustawa I jego młodsi synowie, książęta Jan i Karol, otrzymać mieli własne księstwa, pozostając jedynie w stosunku wasalnym wobec najstarszego brata, Eryka XIV. Ten jednak po swej koronacji podjął próbę ograniczenia niezależności książąt. Riksdag, który zebrał się w 1561 w Arboga, zadecydował po myśli Eryka XIV (tzw. artykuły z Arboga). W wieku 15 lat Karol uczestniczył w siedmioletniej wojnie północnej (1563–1570). Dowodził artylerią szwedzką w czasie zdobycia Varbergu w 1565.