兵参谋官的提议建立一个常备宪兵单位。尽管被国会拒绝这项提议，但国会根据1920年《国防法》允许在陆军部队中设立宪兵。1944年，在宪兵参谋官室底下设置一个刑事调查单位。1946年成立，负责维护佔领区秩序，并于1952年解编。1949年，取代战争部的国防部正在对陆军进行重组，并决定废除宪兵部队，但是当国会于1950年5月通过《陆军改组法》（Army Reorganization Act）时得以保存，宪兵部队仍然是陆军的一个兵种。