谦跟随宇文泰解救洛阳之围，又参与河桥之战，加定州大中正、瀛州刺史。大统十五年（549年），崔谦被授予车骑大将军、仪同三司，又在随郡击败柳仲礼，在魏兴郡讨平李迁哲，都有战功，晋升骠骑大将军、开府仪同三司、直州刺史，赐姓宇文氏。魏恭帝拓跋廓初年，崔谦转任利州刺史。崔谦个性聪慧，非常通晓治政方略，又勤于处理政务，百姓诉讼虽然繁多，崔谦从来没有疲倦懈怠的表情，官吏百姓因此尊敬爱戴他。宇文泰去世后，蜀地人贾晃迁起兵作乱，率领党徒包围攻打州城。崔谦仓促部署分派军队，只有一千多人，就率领作战。崔谦又向族兄弟梁州刺史崔