淮宝县中学毕业后，即参加新四军；并在新四军第四师供给部会计训练队学习。此后，吕培俭曾在新四军第四师供给部、华中军区供给部工厂管理处、华东军区供给部被服第二总厂担任会计工作。1948年，又被安排到华东野战军随营军政干部学校学习。学习结束后，吕培俭就在中国人民解放军第三野战军工作；后历任三野财经工作队组长，豫皖苏区财经办事处计政科组长，三野后勤部工作队分队长、区队长等职。
中共建政后.中华人民共和国建国后，吕培俭一直在财经部门工作；并历任华东军政委员会财政部审计、组长、副科长，财政部经