（1648年），擢工部尚书。次年乞假归，加太子太保。顺治七年还朝。八年，调兵部尚书，加少保兼太子太保。顺治十年（1653年），调左都御史。不久，迁吏部尚书，授国史院大学士。董鄂氏死，写有《孝献皇后行状》。顺治十五年（1658年），改中和殿大学士，兼吏部尚书。顺治十六年，朝廷下诏，为明崇祯帝立碑，命金之俊撰文。不久加太保兼太子太师，复乞假归。顺治十七年（1660年）加太傅。十八年（1661年），改秘书院大学士。
晚年.康熙元年（1662年），金之俊告老还乡。归田后，屡受当地的土豪