朝廷採纳并在元徽二年（474年）实行。及后僧虔入为吏部尚书，不久加散骑常侍。元征四年十月辛酉日（476年11月7日）转任尚书右仆射。昇明元年（477年），任尚书左仆射的萧道成拥立宋顺帝，并以司空、录尚书事身份辅政，僧虔遂获改授尚书仆射。同年年末，司徒袁粲、尚书令刘秉等人响应荆州刺史沈攸之起兵反对萧道成专权，却被萧道成势力所平定，以僧虔为中书令、尚书左仆射。昇明二年庚辰日，王僧虔进位尚书令。期间僧虔以朝廷礼乐之事很多都没有跟从传统经典，而当时民间更有自造新式音乐之风，遂上表认为不能容让朝廷和民间将传统礼乐