进士。授知州，历官工部郎中。督郊庙、雩坛等工程，陞太仆寺少卿，累迁工部侍郎，督理各宫殿及陵墓建设，工程完毕，陞尚书。因与武定侯郭勋互相攻讦，罢官。归越二年起前职，加太子太保。结果言官交响参劾，诏令自陈去职。嘉靖二十六年（1547年）八月卒。嘉靖中期，世宗深居简出，多年不上朝。甘为霖与兵部尚书张瓒、礼部尚书严嵩、吏部尚书许赞，皆为清议所不齿。
着作.甘为霖六兄弟，称富顺甘氏六望。