人口达二十万的郡，便举郡尉一人，禁备盗贼。汉景帝中元二年（前148年）将郡尉改为都尉。汉武帝时期，开始设置许多新的都尉，包括在三辅地区各置二名都尉，在函谷关、阳关等地监管出入的关都尉，在边郡屯田殖谷的农都尉，以及监管各夷降者的属国都尉。至东汉，汉光武帝于建武七年废除各郡都尉，职权并入各郡太守，但是边郡、属国仍然设置都尉。如有大批盗贼等突发事件，各郡往往临时任用都尉，事毕即除。汉安帝就曾因为西羌势大，而复置右扶风都尉与京兆虎牙都尉。三国魏晋时期，各州、郡、国仍常有都尉之职，至南北朝后则不再设立。