面临了是否要日本的问题，服部一度经威洛比推荐为日本的新武装部队——警察预备队（陆上自卫队前身）指挥官人选之一，但却因为首相吉田茂和盟军司令部民政局局长考特尼·惠特尼准将的反对而流产，最后在吉田和盟军司令官麦克阿瑟的拍板下，预备队指挥官的职位由宫内厅次长林敬三担任。根据1952年10月31日的美国中情局文件，服部曾打算与儿玉誉士夫合作，与遭到吉田自由党政府革逐公职的国粹主义份子发动政变、刺杀吉田、拥立鸠山一郎任首相，但此计画因辻政信的劝退而作罢。1954年鸠山一郎担任首相时，曾评估能否拔擢服部担任国防