秦王李世民及裴寂、刘文静三人为太原元谋功臣，“特恕二死”（赦免两次死罪）。武德二年（619年），刘武周进攻太原，裴寂自告奋勇，被封为晋州道行军总管前去讨贼，可是被打得大败，后被李渊召回，关押起来，可是不久又放了，待遇如初。武德四年（621年），赵王李元景聘娶裴寂的女儿为妃。六年（623年），迁为尚书左仆射，赐宴于含章殿。裴寂不想卷入日趋激烈的权力斗争之中，于是向高祖请求“赐骸骨”，想急流勇退。李渊极力挽留，泪湿衣襟，说：“未也，要当相与老尔。公为宗臣，我为太上皇，逍遥晚岁，不亦善乎！”武德九年（626年