Uransa lopuksi Jones palveli Yhdysvaltain ilmavoimien puolustushaarakomentajana Yhdysvaltain puolustushaarakomentajien neuvostossa ja lopulta neuvoston puheenjohtajana kaksi kaksivuotiskautta 1978–1982 presidentti Jimmy Carterin nimittämänä. Jones oli Carterin mukana Wienissä SALT II -neuvotteluissa 1979. Hän oli myös mukana muodostamassa nopean toiminnan joukkoja Aasian lounaisosaan Neuvostoliiton Afganistanin miehityksen jälkeen, joista Carter muodosti myöhemmin alueellisen joukko-osastokokonaisuuden. Toisen kautensa lopulla Jones ajoi neuvoston uudelleenorganisointia vahvistamalla puheenjohtajan roolia ja lieventämällä eri puolustushaarojen välistä kilpailua. Jonesin vastuuaikana tapahtui myös Iranin panttivankikriisi, missä presidentti Carterin päätöksellä ryhdyttiin epäonnistuneeseen yritykseen pelastaa 53 amerikkalaista panttivankia. Jones jäi eläkkeelle toisen kaksivuotiskautensa lopuksi Ronald Reaganin jo noustua presidentiksi 1982.