十三年（1173年），中女真进士，补东平府教授。历任范阳簿，选充国史院编修官，改任应奉翰林文字。世宗称他为“女真进士中才杰之士”，委任他修起居注。大定二十九年（1189年），金章宗即位，为侍御史，左司郎中。明昌二年（1191年），擢升为御史中丞，之后拜参知政事。明昌四年（1193年），金章宗以他有能力，“忠实公方，度其事势，有若权衡”，于是赐他名字为“衡”，任命他为尚书右丞。明昌六年（1195年），转任尚书左丞。承安二年（1197年），出任上京留守，改任枢密副使，规划边界。承安四年（1199年），夹谷衡被拜