梁毗个性刚直，于周武帝统治年间，以明经入仕，累迁布宪下大夫。后来参与征服北齐的战争，在征服并州的战事中立有战功。担任都督行军总管长史，加仪同三司。宣政年间又封易阳县子，迁武藏大夫。隋朝建立后，梁毗进爵为侯。拜治书侍御史，转大兴令，迁雍州赞治，出为西宁州刺史，改封邯郸县侯，征散骑常侍、大理卿。仁寿初，进上开府。隋炀帝即位后，迁刑部尚书，摄御史大夫事。后来梁毗举发宇文述私自招兵买马的事情，但炀帝不听，令张衡代替他的官位。梁毗忧愤，大业六年九月壬申（610年10月6日）病卒。炀帝令吏部尚书牛弘弔唁之，赠缣五百匹