元帅名义上是天皇的军务顾问，军事参议院当然参议官，也要召开不定期的元帅会议，但对于军队实务上几无影响力。不过到第二次世界大战中，由于陆军规模扩大，方面军之上又增加了「总军」上级指挥层级，因此出现了以元帅称号出任总军部队司令官的例子（寺内寿一，杉山元，与畑俊六）。日本元帅府建立后共有三十位陆、海军大将列入，明治时代为陆军5名海军3名，大正时代为陆军6名海军6名，昭和时代为陆军6名海军4名。第二次世界大战当中赐与元帅的陆、海军大将各有3名，陆军为寺内寿一，杉山元，与畑俊六；海军为永野修身，山本五十六，与古贺