그 뒤 제21대 국방부 장관이 되었다. 1979년 10·26 사건에서 계엄령을 선포하였다. 12·12 군사 반란 당시 쿠데타 사실을 알고 가족들과 함께 피신했으나 발각, 정승화 육군참모총장의 연행을 대통령이 재가하도록 했지만 결국 해임되었다.그 이후로 그일 때문에 죽는날까지 국민들에게 욕을 먹게되었다