此职不主管军事行政，亦不同于各军统帅 , 此职不负责军队的日常管理 。创设此职之目的在于皇帝在政务繁忙，且军务紧急的情形下，必须委任一位亲信大臣或武官以代表自己统率全国军事力量，于是有了此职。初期担任此职者多为曹魏之宗室，如曹真与曹爽，自高平陵之变后，司马懿仍保留都督中外诸军事之衔，才使之得以控制禁军，诛杀曹爽一族，司马懿死后，此职亦为司马氏所把持，司马师、司马昭兄弟与司马炎等人先后担任，最后司马炎篡夺曹魏政权，建立晋朝。
八王之乱.西元291年，楚王司马玮即是以都督内外诸军事之职