德四世的母亲在他出生一周左右就由于产褥热去世（卒于1228年5月1日）。在他的父皇腓特烈二世于1235年最后一次前往德国，并且废除了其叛乱的长子德意志的亨利的继承权后，7岁的康拉德代替兄长成为罗马人民的国王人选。1237年2月，还是个孩子的康拉德在维也纳被选为罗马人民的国王，似乎为了避免再一次由儿子向父亲发难的悲剧，皇帝腓特烈二世决定在死后才向他受冠。当腓特烈二世于1250年去世时，他把西西里和德意志交给康拉德统治。年轻的国王像他父亲一样受到教皇的威胁；教廷的目标是尽一切力量把霍亨斯陶芬家族的势力逐