南满游击队和海龙游击队为基础，于1933年9月组成东北人民革命军第一独立师，任师长兼政委。1934年4月，他联合17支抗日武装，成立抗日联合军总指挥部，任总指挥。同年，他担任第一军军长兼政委。1936年，在东北由中共拉拢的多支抗日部队根据中共中央《八一宣言》统一建制，陆续成立抗日联军。同年2月，杨靖宇任东北抗日联军第一军军长兼政委。同年，东北抗联第一军和第二军整编成为东北抗联第一路军。，他任东北抗日联军第一路军总司令兼政委。杨靖宇通过一个个胜仗逐渐在当地扬名，在当时有“南有杨靖宇，北有赵尚志”的说法。