Dalším krokem byla armáda. Německá generalita se nikdy nesmířila s porážkou v první světové válce a potupnou mírovou smlouvou, takže nacisté po eliminování velitelů SA neměli s ovládnutím vojska velké problémy. V březnu 1935 byla dokonce obnovena branná povinnost. Na začátku roku 1935 proběhl v Sársku plebiscit o připojení k Německu, který dopadl v německý prospěch. Dalším výrazným úspěchem nacistů bylo obsazení Porýní německou armádou. Špatně vyzbrojené a chaoticky organizované německé jednotky vstoupily 7. března 1936 do demilitarizované zóny, ale nesetkali se s žádným odporem. Francie a Velká Británie nepodnikli žádnou akci.