开鑫第3师改编为新编第5军，叶开鑫任军长。1927年6月改编为国民革命军第四十四军。
第三次组建：河北民军孙殿英部.1943年5月在河南林县投敌，番号撤消。
第四次组建：东北战场的中央嫡系.1947年9月陈诚主政东北后，开始扩军。1947年11月以第九十四军第43师、第五十二军第195师组建新五军，军长陈林达。1948年1月在东北冬季攻势中于公主屯被全歼，军长陈林达被俘。
第五次组建.1948年6月，东北剿总再次组建新五军，军长刘云瀚