权力被一步一步的剥夺，只是在礼仪上还是百僚之长。（《汉书·卷十九上·百官公卿表第七上》）汉武帝死时，遗命霍光以大司马大将军辅政。西汉末年，取消作为加官的大司马，设立单独的大司马职位。东汉大将军的地位原在三公下；到汉和帝时窦宪出任大将军，由于权势太大，朝廷震动，联合奏请以大将军位列三公之上。东汉末年，又开始设置大司马作为掌武事最高官员，位在大将军上。三国都继承了东汉的体制，但曹魏青龙元年司马懿曾由大将军转职为太尉，但并非升迁。后来司马师任大将军时由于其叔父司马孚是太尉，曾改大将军在太尉下。孙吴有上大将