在汉灵帝驾崩后，于夫罗乘朝廷何进和十常侍血拼的混乱局势，跟白波贼合流进犯太原、河内等地，本来受命征讨的董卓，却因大将军何进遇刺身亡，兵回汉都。于夫罗欲回故地，却得不到南匈奴民众准许。初平元年（190年），曹操一众成立反董卓联军时，于夫罗跟张杨依附袁绍，屯兵漳水。初平二年（191年），于夫罗欲叛袁绍，张杨不从，于夫罗胁持张杨出走。于夫罗初败于袁绍将麴义，逃往黎阳，后又攻破度辽将军耿祉，势力得以重整。192年，在内黄被征讨黑山贼的曹操打败，翌年193年春，又在袁术出兵曹操的根据地陈留时，跟黑山贼一同