代郡（今河北张家口蔚县）人。生卒年不详。少有才操，曾任佐着作郎，晋惠帝元康初年，升迁为建康令。不久因时局不稳，“尝岁日望气，知将来事故”，而归隐家中。中书令张华派儿子去请鲁胜做官，朝廷聘鲁胜为博士官，都被拒绝。鲁胜是第一位替墨家作注的学者，并定名为《墨辩》，今仅存《墨辩注》序文。