恤士卒亦很得众心，而见官吏受贿反倒会赐他财物，官吏们都因而惭愧，甚者还自杀。其时前信都令阎忠更劝皇甫嵩乘着平定黄巾的威势乘时而起，夺取天下，但为皇甫嵩拒绝。
王国叛乱.因应北宫伯玉、边章和韩遂等人于陇右作乱，皇甫嵩在中平二年（185年）春季就改镇长安（今陕西西安市），守衞园陵，随后更与入侵三辅的北宫伯玉等人作战。可是，皇甫嵩屡次作战无法讨平他们，又因黄巾之乱时得罪过宦官赵忠及张让，遂被二人表奏「连战无功，所费者多」，于当年秋季被征还，被收回皇甫嵩左车骑将军印绶，削户六千，改封都乡侯