林虎下野。此时，林虎拒绝了孙文当内应的邀请。此后，林虎从事反孙文的活动，1922年，帮助反孙文的陈炯明联络北京政府。1923年，任北京政府潮梅护军使兼粤军总指挥。1924年5月，北京政府任命林虎为广东督办。同年，获授寰威将军。1925年，陈炯明受中国国民党的东征击败，林虎军被撃败而下野。
晩年.1925年后，寓居上海。1927年，国民革命军进攻上海时，他前往法国避难。1929年，返国后，回到广西务农。此后，林虎同部下李宗仁联络，重归政界。1937年，任国民参政会参政员。1946