为兄，张景惠还把自己的武装以及队长职位交给了张作霖。1902年11月间，经八角台士绅张紫云代为游说，新民府知府增韫收编了张作霖和张景惠的武装。张作霖任新民府巡警前营马队帮带，张景惠任哨官。1903年8月，清政府为缩减开支，对地方军队进行整编，盛京将军增祺命张作霖所部同新民街巡捕队合并为新民府游击马队营，人数减少至185人，张作霖任游击马队营管带，张景惠任帮带，汤玉麟、张作相等人分任哨官。1906年，张作霖将所部的3个营扩编至5个营，并任五营统带，成为奉天省地方军队右路头目。赵尔巽于1905年出任盛京