州赞治，出为西宁州刺史，改封邯郸县侯，征散骑常侍、大理卿。仁寿初，进上开府。隋炀帝即位后，迁刑部尚书，摄御史大夫事。后来梁毗举发宇文述私自招兵买马的事情，但炀帝不听，令张衡代替他的官位。梁毗忧愤，大业六年九月壬申（610年10月6日）病卒。炀帝令吏部尚书牛弘弔唁之，赠缣五百匹。