Den 12. september 1972 ble han kalt tilbake til Portugal for å overta stillingen som sjef for de væpnede styrker. Han erstattet den tidligere lederen Venâncio Deslandes, men han ble byttet ut i mars 1974, noen dager før nellikrevolusjonen startet 25. april 1974. Han ble fratatt sin maktposisjon fordi han ønsket å frigjøre koloniene og hadde nektet å sverge lojalitet til regimet under statsminister Marcello Caetano som ifølge Costa drev en fåfengt kolonkrig.