除了执掌地方兵权的郡国都尉，以后又罢轻车、骑士、材官、楼船士及军假吏，实际上取消了地方军队。在和平时期，少量维持地方治安的郡县兵，皆由太守令长兼领，但在某些沿边及民族斗争紧张的地区，则设都尉或属国都尉别领。随着豪强地主势力的膨胀，在田庄内部发展了一种部曲家兵制。这种部曲家兵，承担着镇压农民、维持地方治安的某种职能。正因为有这样一支武装队伍，东汉政府才能裁减、甚至在某些地区取消地方军队。与削弱地方兵权的同时，还逐步扩大中央军队，在重要的沿边地区，设有边防军，为中央军队的一部分。东汉政府还经常用赦免和减