谦历任瀛州别驾，高澄又任命崔伯谦出任京畿司马。高澄将要前往晋阳时，慰劳崔伯谦说:“您帮助治理的瀛州，已经是一片太平景象。我府中事务繁多，因此将此职务授予你。”临别时，高澄又在马上握着崔伯谦的手说:“执子之手，与子偕老，您应该深深体会这番意思。”崔伯谦族弟崔暹当时受到宠信官居要职，崔伯谦与崔暹是从前的同僚又是同族，除了婚丧大事绝不去崔暹家中，以忠厚之道自居。武定末年，崔伯谦官至司空咨议参军。天保初年，崔伯谦出任济北郡太守，遍行恩德，禁止富人的奢侈，鼓励穷人农桑并给予救济。县里公田有很多肥沃的土地，崔伯谦将