谦转任利州刺史。崔谦个性聪慧，非常通晓治政方略，又勤于处理政务，百姓诉讼虽然繁多，崔谦从来没有疲倦懈怠的表情，官吏百姓因此尊敬爱戴他。宇文泰去世后，蜀地人贾晃迁起兵作乱，率领党徒包围攻打州城。崔谦仓促部署分派军队，只有一千多人，就率领作战。崔谦又向族兄弟梁州刺史崔猷求援，崔猷派遣六千士兵前往，于是活捉了贾晃迁，其余人四处逃散。崔谦诛杀了反叛头目，其余人加以宽恕，很短的时间内地方上就安定下来。周明帝宇文毓初年，崔谦进爵为作唐县公。保定二年（562年），崔谦升任安州总管、随应等十一州甑山上明鲁山三镇诸军事、安州