仍属滇军。1920年（民国九年）3月，为响应「川人治川」的口号，杨森发表脱离滇军宣言，从而复归川军。此后，他积极参与扫荡四川境内的滇军。1921年（民国十年）2月，杨森升任川军第二军军长，驻扎重庆。后来，杨森和川军的刘湘合力击败南方政府派的熊克武。1923年（民国十二年）8月，吴佩孚任命杨森为中央陆军第十六师师长。9月晋升陆军中将。1924年（民国十三年）3月，升为陆军上将，5月任命为四川督理。杨森率部驻扎成都，成为川军内最大的势力。然而，刘湘和其他川军指挥官对杨森的反感与日俱增。192