诏命班师。隋炀帝末年，崔君肃历任州刺史、兵部侍郎等职。当时各地农民起义爆发，炀帝在江都被杀。武德二年（619年）崔君肃被窦建德部将所俘。崔君肃博学有才干，被窦建德所重。闰二月，窦建德任命隋朝的黄门侍郎裴矩为左仆射，兵部侍郎崔君肃为侍中，少府令何稠为工部尚书，右司郎中柳调为左丞，虞世南为黄门侍郎，欧阳询为太常卿。窦建德败亡后，崔君肃投降唐朝，历任黄门侍郎、鸿胪卿等职。其曾孙崔元综在武则天时代担任宰相。