中才杰之士”，委任他修起居注。大定二十九年（1189年），金章宗即位，为侍御史，左司郎中。明昌二年（1191年），擢升为御史中丞，之后拜参知政事。明昌四年（1193年），金章宗以他有能力，“忠实公方，度其事势，有若权衡”，于是赐他名字为“衡”，任命他为尚书右丞。明昌六年（1195年），转任尚书左丞。承安二年（1197年），出任上京留守，改任枢密副使，规划边界。承安四年（1199年），夹谷衡被拜为平章政事，封英国公。同年去世，谥贞献。