右仆射，领吏部，封南昌县开国公，时年二十八岁。他善于礼仪典章，齐朝初创，一切典章制度都由他负责制定。转任尚书左仆射，兼任太子詹事。齐高帝驾崩，遗诏授侍中、尚书令、镇军将军。齐武帝永明二年（484年）兼任丹阳尹，永明三年（485年），领国子祭酒，官至中书监，太子少傅。永明七年（489年）王俭病危，齐武帝亲自探视。卒年三十八岁。赠太尉，谥文宪。王俭虽居宰辅高位，贵为郡公，无声色物质之嗜欲，不尚清谈，以国事为重，办事勤力，家无遗财。为复兴儒学起着重要的作用，他留意儒家经典，发言吐论、举止衣冠必依儒教，因而“儒