林虎军被撃败而下野。
晩年.1925年后，寓居上海。1927年，国民革命军进攻上海时，他前往法国避难。1929年，返国后，回到广西务农。此后，林虎同部下李宗仁联络，重归政界。1937年，任国民参政会参政员。1946年，当选制宪国民大会代表。1948年，当选立法院第一届立法委员。中华人民共和国成立后，林虎留在广西。历任广西壮族自治区政治协商会议副主席、中国人民政治协商会议全国委员会常务委员等职务。1960年2月8日，林虎在南宁病逝。享年74岁（满72歳）。