功被授予辅国将军、太中大夫，升任平东将军、尚书殿中郎。贺拔胜出任荆州刺史时，任命崔谦为行台左丞。贺拔胜虽位居州郡重任，但是安抚华夷百姓，管理各种事务，全部委托给崔谦。崔谦也竭尽自己的智慧和才能，加以匡正辅佐。贺拔胜在南方获得名声，崔谦出力最大。等到魏孝武帝元修将要防备高欢的进逼，诏令贺拔胜率军前往洛阳。贺拔胜军队到达广州时，魏孝武帝已经西迁关中。贺拔胜拿不定主意，将要返回荆州。崔谦对贺拔胜说：“昔日周王室不幸，诸侯离去本职辅佐王室；汉朝中期衰落，各个藩王为朝廷尽节。如今皇室多难，皇帝被逼迁移，正是忠臣决