В 1949 году назначен главой делегации министерства обороны Израиля в США. Находясь на штатной работе в представительстве, совмещал её с учёбой в Новой школе социальных исследований, Нью-Йоркском университете и школе административного управления Гарвардского университета. В 1952 году Перес был назначен заместителем генерального директора министерства обороны, а в 1953 году, в возрасте 29 лет, стал самым молодым генеральным директором министерства обороны. Находясь на должности, провёл реорганизацию министерства, улучшил военные отношения с Францией, сумел подчинить министерскому контролю значительную часть государственного бюджета, а постепенно — и промышленности страны, которая стала выполнять многочисленные военные заказы (например, создание израильской авиационной промышленности путём реорганизации научно-исследовательской работы в военной сфере). Выступил инициатором создания израильского ядерного проекта: значителен его вклад в дело создания ядерных реакторов в Димоне и Сореке. Сыграл значительную роль в планировании Суэцкой кампании 1956 года. За годы службы в министерстве обороны заработал репутацию прагматичного технократа.