中山、上党、河内的山谷成为张燕贼军的根据地。其后孙轻、王当等人带领部众投靠张燕，人数甚至有百万人，号为「黑山贼」。汉灵帝见其势大，不能以武力讨伐，令河北诸郡被受害。其后，张燕派人向东汉朝廷求降，朝廷便拜张燕为平难中郎将，领河北各山谷事务，同年被推举为孝廉、计吏。但张燕更加无所忌惮，渐渐进犯河内，逼近京师，于是汉室以朱隽为河内太守，带领家兵击退他们。 190年，董卓挟汉献帝退到长安，关东大乱，一时之间群雄并起，张燕便与豪杰相结。公孙瓒与袁绍争夺冀州时，张燕派遣将领杜长等助战，被袁绍击败，人众略有散失。