水衡都尉于西汉武帝新设时，接管了少府的部分职权。王莽新朝时改水衡都尉称予虞。东汉有事随置水衡都尉，而掌管上林苑等职能归于少府，水利、航运事务另设都水使者。《后汉书》载，“孝武帝初置水衡都尉，秩比二千石，别主上林菀有离宫燕休之处，世祖省之，并其职于少府。每立秋貙刘之日，辄暂置水衡都尉，事讫乃罢之。”曹魏再设水衡都尉，掌管水军舟船器械。“后汉省都水以属郡国，而置河堤谒者五人。魏因之，又兼有水衡都尉，主天下水军舟船器械。”晋朝初立时省，后又曾复置。“晋置都水台都水使者一人，掌舟楫之事，官品第四；又