I 859 ble Karl gjort til greve av Breisgau, et alemannisk grenseområde mot sørlige Lotharingia (i dag et landskap i Baden-Württemberg i Tyskland). I 863 gjorde hans opprørste eldre bror Karloman av Bayern|Karloman opprør mot deres far. Året etter slo broren Ludvig den yngre seg med på opprøret, og Karl ble også med. Karloman ble utnevnt som medkonge av Bayern, og i 865 ble den eldre Ludvig tvunget til å dele sine landområder med sine arvinger: Bayern gikk til Karloman; Sachsen (med Franken og Thüringen) gikk til Ludvig; og Alemannia (Schwaben med Raetia) gikk til Karl. Lotharingia ble delt mellom de to yngste brødrene.