，祖父崔蔚遭遇堂兄司徒崔浩大案的牵连南逃到江南，在刘宋官至给事黄门侍郎、汝南郡义阳郡二郡太守。延兴初年，崔蔚重新归附北魏，出任颍川郡太守，因此定居于颍川郡，之后在郢州刺史任内去世。崔彦穆的父亲崔稚，专心致力于经史书籍，不关心世事，以秘书郎为起家官，升任永昌郡太守。隋朝开皇初年，崔稚以皇后独孤伽罗外曾祖的身份，被追赠上开府仪同三司、新州刺史。崔彦穆自幼聪慧，神采卓尔不凡，虚龄十五时和河间邢子才、京兆韦孝宽一起进入中书学，三人之间特别友好。崔彦穆倾心于儒学，为当时人所称赞。北魏吏部尚书陇西李神俊有鉴别人才的