Efter att på detta vis kväst den yttre oppositionen vände sig Hitler nu mot meningsmotståndare inom partiet. Inom SA (som varit så viktigt för NSDAP:s makttillträde) fanns det många (däribland ledaren Ernst Röhm) som ansåg att det var dags för en "andra revolution" där partiet slutligen svepte undan det konservativa etablissemanget och grep all makt själv. Som ett led i detta utövade Röhm påtryckningar mot Hitler för att SA skulle bli en del av de väpnade styrkorna, vilket i sin tur förskräckte den konservativa arméledningen. Ställd inför hotet om konflikt mellan armén och partiet (i förlängningen möjligtvis ett inbördeskrig) valde Hitler att undanröja detta hot genom att låta mörda Röhm och andra SA-ledare i de långa knivarnas natt den 30 juni 1934. Detta våldsutbrott riktade sig inte endast mot SA utan drabbade även andra tänkbara utmanare och motståndare som Kurt von Schleicher och Gustav Ritter von Kahr som var den som hade satt stopp för Ölkällarkuppen 1923. Antalet dödsoffer var totalt mellan 150 och 200 döda. I och med rikspresident von Hindenburgs död i augusti 1934 försvann ännu en potentiell utmanare, och Hitler kunde nu göra sig till ensam diktator av Tyskland genom att avskaffa presidentämbetet och utnämna sig själv till statschef med den nya titeln "Führer" ("ledare") som lades till hans roll som rikskansler (regeringschef).