家官，升任永昌郡太守。隋朝开皇初年，崔稚以皇后独孤伽罗外曾祖的身份，被追赠上开府仪同三司、新州刺史。崔彦穆自幼聪慧，神采卓尔不凡，虚龄十五时和河间邢子才、京兆韦孝宽一起进入中书学，三人之间特别友好。崔彦穆倾心于儒学，为当时人所称赞。北魏吏部尚书陇西李神俊有鉴别人才的能力，见到崔彦穆而赞叹的说：“这是辅佐帝王的人才。”永安末年，崔彦穆出任司徒府参军事，转任司徒府记室，升任大司马从事中郎。魏孝武帝元修西迁关中时，崔彦穆来不及随从。大统三年（537年），崔彦穆和哥哥崔彦珍在成皋起兵举义，顺势攻占荥阳郡，俘