McCain syntyi 29. elokuuta 1936 Coco Solon laivastotukikohdassa tuolloin Yhdysvaltojen hallinnoimalla Panaman kanavavyöhykkeellä. McCainin suvulla oli pitkä historia Yhdysvaltain laivastossa. John McCainin isä John S. McCain, Jr. ja isoisä John S. McCain, Sr. olivat molemmat neljän tähden amiraaleja. Perhe muutti usein, ja McCain kävi useita eri kouluja, kunnes hän lopulta liittyi Yhdysvaltain laivastoakatemiaan Annapoliksessa. Opiskeluaikana McCain tuli tunnetuksi johtajankyvyistään ja toisaalta auktoriteetteja kohtaan tuntemastaan halveksunnasta. Valmistuessaan vuonna 1958 McCain oli luokkansa kehnoimpia suoriutujia. Sittemmin hän muutti Floridan Pensacolaan ja suoritti lentäjän koulutuksen laivaston ilmavoimissa. Lentäjänäkään häntä ei kuvailtu kaikkein parhaimmaksi, vaan hänen sanottiin kokeilleen jatkuvasti rajoja. McCain teki koulutuksensa aikana pakkolaskun mereen, ja myöhemmin hän lensi Skyraider-lentokoneella voimalinjoihin Espanjassa aiheuttaen laajan sähkökatkon. McCain avioitui vuonna 1965 ensimmäisen vaimonsa Carolin kanssa.