回广西。1921年，被旧桂系余部推举为广西自治军总司令，驻扎南宁。1922年11月9日，获将军府俊威将军。1923年3月，大总统黎元洪任命林俊廷兼任广西省省长，同年7月去职。1923年底，孙中山任命林俊廷为广东八属军务督办。1925年3月，林俊廷联合龙云攻入南宁，林俊廷宣布再度出任广西省省长。同年7月，李宗仁、黄绍竑再度攻打南宁，林俊廷乃逃离广西。不久，林俊廷回到思乐县海渊镇（今属宁明）定居。1933年，林俊廷病逝。