Konrádovo mládí není příliš dobře známo. V soudobých církevních pramenech je popisován jako vysoce schopný muž, kterému se patrně dostalo univerzitního vzdělání v Paříži nebo v Bologni. Byl pověstný svým asketickým způsobem života a horlivostí při obraně církve. Dlouho se předpokládalo, že byl příslušníkem dominikánského řádu, moderní studie to však nepotvrzují. Již od mládí se převážně věnoval potlačování hereze v církvi a podílel se i na křížové výpravě proti albigenským v jižní Francii v letech 1208 až 1209. Papež Inocenc III., který křížovou výpravu vyhlásil, byl jedním z Konrádových raných podporovatelů.