读学位期间，他逐渐对纽约市邮政督察安东尼·康姆士托的事业产生兴趣。康姆士托曾长期致力打击欺诈和不道德行为（还有色情和节育）。胡佛早期被认为效法康姆士托，在打击犯罪时不达目的誓不罢休，并且偶尔为此违反程序。
联邦调查局时期.第一次世界大战期间，胡佛在司法部找到了工作。他很快就被提升为敌国公民登记部门（Enemy Aliens Registration Section）的负责人。1919年，他成为司法部新成立的总情报部门主管。1921年，他成为调查局的副局长，1924年，司法部长任命他